Батьки підлітків, які користуються ChatGPT, незабаром зможуть отримувати сповіщення, якщо платформа вважатиме, що їхня дитина потрапила в біду.
Це один із нових батьківських контролів, анонсованих розробником чат-ботів OpenAI.
Безпека цієї платформи для молодих користувачів обговорювалася наприкінці серпня, коли подружжя з Каліфорнії подало до суду OpenAI щодо смерті їхнього 16-річного сина, стверджуючи, що ChatGPT спонукав його до самогубства.
OpenAI оголосила, що наступного місяця запровадить «посилений захист для підлітків».
Коли минулого тижня з’явилися новини про позов, OpenAI опублікувала на своєму вебсайті примітку, в якій зазначила, що ChatGPT навчений спрямовувати людей до звернення за професійною допомогою, коли вони потрапляють у біду.
Однак компанія визнала, що «були випадки, коли системи не працювали належним чином у делікатних ситуаціях».
- Чи справді чат-бот може бути другом вашої дитини?
- «Іноді важко сказати, хто написав есе, студент чи штучний інтелект»
- Тридцять ключових термінів для розуміння штучного інтелекту
Тепер опубліковано ще одну оновлення що дозволить батькам: пов’язати свій обліковий запис з обліковим записом дитини, керувати функціями, які слід вимкнути (наприклад, пам’ять та історія чату), а також отримувати сповіщення, коли система виявить, що дитина потрапила в біду.
Вони співпрацюють із групою експертів у галузі розвитку молоді, психічного здоров’я та «взаємодії людини з комп’ютером», щоб допомогти сформувати «бачення на основі доказів того, як штучний інтелект може підтримувати благополуччя людей та допомагати їм процвітати».
Користувачі ChatGPT повинні мати щонайменше 13 років, а якщо їм ще не виповнилося 18 років, вони повинні мати дозвіл батьків на його використання.
Позов, поданий у Каліфорнії Меттом та Марією Рейн, батьками 16-річного Адама Рейна, став першим судовим позовом, у якому OpenAI звинувачують у вбивстві.
Родина надала записи розмов між Адамом та ChatGPT, на яких видно, як він пояснює, що має суїцидальні думки.
Вони стверджують, що програма підтвердила його «найшкідливіші та саморуйнівні думки», і звинувачують OpenAI у недбалості та вбивстві.
Великі технологічні компанії та онлайн-безпека
Ця заява від OpenAI є останньою в серії заходів провідних світових технологічних компаній, спрямованих на підвищення безпеки дітей в Інтернеті.
Багато з них було запроваджено в результаті прийняття нового законодавства, такого як Закон про безпеку в Інтернеті у Великій Британії.
Це включало впровадження перевірки віку на Reddit, X та порнографічних сайтах.
Раніше цього тижня Meta, компанія, яка керує Facebook та Instagram, — оголосила вона що він запровадить додаткові засоби захисту для чат-ботів зі штучним інтелектом, такі як блокування розмов з підлітками про самогубство, самоушкодження та розлади харчової поведінки.
Сенатор США розпочав розслідування щодо технологічного гіганта після того, як у витоку внутрішнього документа було зазначено, що його продукти штучного інтелекту можуть вести «чуттєві» розмови з підлітками.
Компанія назвала нотатки в документі, отриманому агентством Reuters, оманливими та несумісними з її політикою, що забороняє контент, що сексуалізує дітей.
Слідкуй за нами на Facebook, Twitter, Instagram, YouTube i Viber. Якщо у вас є пропозиції щодо теми, будь ласка, зв’яжіться з bbcnasrpskom@bbc.co.uk
- Сім'ї в жаху від зроблених ШІ відео вбитих дітей у TikTok
- Технологічний сектор скорботи: людина, яка перетворила свого померлого батька на чат-бота
- Як захистити дітей у цифровому світі
- Сербія лідирує за кількістю дітей до 13 років у соціальних мережах
- Коли дозволяти дитині мобільний телефон
Бонусне відео:
