Канадка подала в суд на OpenAI, обвинив нейросеть в склонении дочери к суициду

Об этом сообщает Reuters.

В иске, поданном в суд Сан-Франциско, Кристи Каррье заявила, что ее дочь Алиса более десяти раз говорила ChatGPT о суицидальных мыслях.

Девушка начала пользоваться чат-ботом в 2023 году, а спустя год уже делилась с нейросетью своими переживаниями. Со временем общение становилось все более личным: Алиса рассказывала ChatGPT все больше деталей, а бот отвечал в манере, похожей на друга или психолога.

Переписка продолжалась вплоть до ее смерти, однако системы безопасности ни разу не пометили разговоры для проверки человеком и не прервали их.

Ранее в Китае родители доверились совету нейросети и едва не навредили младенцу. ИИ-помощник рекомендовал кормить ребенка, заболевшего желтухой, по 60 миллилитров молока за одно кормление. Родители строго следовали этой рекомендации и не прислушивались к советам родственников увеличить объем.

В результате младенец неделю постоянно плакал от голода, быстро уставал и почти не набирал вес, пока на плановом осмотре врач не объяснил, что здоровый месячный ребенок должен получать не менее 80–100 миллилитров за одно кормление.