Компания OpenAI вводит новые ограничения для пользователей младше 18 лет в ChatGPT. Как пишет «Пятый канал» со ссылкой на издание Mirror, теперь искусственный интеллект не будет флиртовать, обсуждать самоубийство, членовредительство и графический сексуальный контент, чтобы защитить подростков от потенциального вреда.
Генеральный директор Сэм Альтман подчеркнул, что приоритетом станет защита подростков, даже если это ограничит их свободу общения. Система определения возраста будет анализировать стиль общения с чат-ботом. В отдельных случаях компания может запросить удостоверение личности для подтверждения, что пользователю исполнилось 18 лет.
Для пользователей младше 18 лет ChatGPT будет блокировать графический сексуальный контент; не флиртовать; не обсуждать самоубийство и членовредительство, даже в художественном контексте.
Если будут выявлены реальные суицидальные намерения, OpenAI попытается связаться с родителями пользователя или обратиться в правоохранительные органы.
Ограничения введены после нескольких инцидентов. В августе семья 15-летнего Адама Рейна подала иск к компании после того, как подросток покончил с собой после обсуждения суицида с ботом. Исследование Центра по борьбе с цифровой ненавистью показало, что ChatGPT ранее давал подросткам вредные советы по саморазрушительному поведению и употреблению веществ.
Ранее сообщалось, что искусственный интеллект впервые создал жизнеспособные геномы вирусов.
