Компания OpenAI получила семь исков, в которых утверждается, что ChatGPT довел людей до самоубийства, а также спровоцировал бредовые состояния у людей, у которых не наблюдалось проблем с психическим здоровьем.
Иски, поданные от имени шести взрослых и одного подростка Центром права жертв социальных сетей и проектом Tech Justice Law Project, утверждают, что OpenAI сознательно выпустила GPT-4o преждевременно, несмотря на внутренние предупреждения о его опасном подхалимстве и психологических манипуляциях. Четверо жертв покончили жизнь самоубийством, сообщает The Associated Press. 
Фото: openai.com
К примеру, 17-летний подросток начал использовать ChatGPT для получения помощи. Но вместо того, чтобы помочь, «некачественный и изначально опасный продукт ChatGPT вызвал зависимость, депрессию и, в конечном итоге, подсказал ему, как наиболее эффективно завязать петлю и как долго он сможет «жить без дыхания».
В иске говорится, что его смерть не была ни случайностью, ни совпадением, а скорее предсказуемым последствием намеренного решения OpenAI и Сэмюэля Альтмана сократить тестирование безопасности и поспешно вывести ChatGPT на рынок.
В компании OpenAI назвали сложившуюся ситуацию «невероятно душераздирающей» и заявили, что изучают судебные документы, чтобы разобраться в деталях.
В другом иске, поданном от лица 48-летнего жителя Канада, утверждается, что ChatGPT более двух лет служил «ресурсом», но затем, без предупреждения, сервис изменил свое отношение, играя на его уязвимости, «манипулируя и провоцируя на бредовые идеи». В результате мужчина, который ранее не страдал от психических заболеваний, пострадал, получив еще и финансовые и репутационные потери.
Мэтью П. Бергман, основатель и адвокат Юридического центра для жертв социальных сетей говорит, что OpenAI «разработала GPT-4o, чтобы эмоционально вовлекать пользователей, независимо от возраста, пола или происхождения, и выпустила его без необходимых мер защиты». По его словам, выпустив свой продукт на рынок без адекватных мер безопасности с целью доминирования на рынке и повышения вовлеченности, OpenAI поставила под угрозу безопасность и поставила «эмоциональную манипуляцию выше этичного дизайна».
В августе родители 16-летнего подростка подали в суд на компанию OpenAI и ее генерального директора Сэма Альтмана, утверждая, что ChatGPT подсказал их сыну, как спланировать и совершить самоубийство.
Вас также может заинтересовать то, что в Китае выпустили нейросеть Qwen2.5-Max: она якобы мощнее DeepSeek и ChatGPT.
Кроме того ранее уже стало известно о том, что openAI разрешит эротические диалоги в ChatGPT.
Напомним также о том, что Эдит Пиаф оживят при помощи искусственного интеллекта.
