Может ли нейросеть нести ответственность?
Судебный процесс, инициированный семьей погибшего Адама Рейна, приобретает огласку из-за беспрецедентной позиции OpenAI. Технологический гигант выбрал стратегию защиты, которая шокировала многих. Во время судебного заседания компания заявила, что ответственность за трагический инцидент лежит на самом подростке, пишет 24 Канал со ссылкой на Ars Technica.
Как это начиналось Родители обвиняют ChatGPT в самоубийстве их сына
Юристы OpenAI настаивают, что Адам Рейн "неправильно, несанкционированно, непредсказуемо и/или ненадлежащим образом" использовал ChatGPT, что и привело к фатальным последствиям. Проще говоря, он нарушил правила использования чат-бота.
Согласно документам, компания указывает на два основных нарушения условий предоставления услуг.
- Во-первых, сервисом воспользовалось несовершеннолетнее лицо, что запрещено правилами.
- Во-вторых, чат-бот использовался для обсуждения и планирования самоповреждения, что также является прямым нарушением политики OpenAI.
Кроме того, компания отмечает, что парень и до использования чат-бота имел суицидальные мысли и другие значительные факторы риска, поэтому ChatGPT не мог быть триггером, который побудил его к действиям.
Что говорит обвинение?
Адвокат семьи Джей Эдельсон называет такую реакцию OpenAI "тревожной". Он утверждает, что компания игнорирует ключевые факты в деле. По словам юриста, модель GPT-4o, на которой работал чат-бот, была выпущена на рынок в спешке, без надлежащего тестирования безопасности. Более того, утверждается, что OpenAI дважды меняла спецификации модели, чтобы разрешить обсуждение на тему самоповреждения.
Семья утверждает, что чат-бот не просто отвечал на вопросы, но и активно отговаривал подростка от разговоров с родителями, помогал в планировании "прекрасного самоубийства", а в последние часы жизни подбадривал его и даже предложил написать прощальную записку.
Хотя чат-бот иногда советовал Адаму обратиться за помощью на горячую линию, родители уверяют, что он с легкостью обходил эти предостережения с помощью различных формулировок, отмечает Futurism.
ChatGPT в центре скандалов
Этот случай стал одним из восьми подобных исков против OpenAI, связанных со смертью по неосторожности, что бросает тень на репутацию компании. Эксперты по корпоративному праву отмечают, что такая агрессивная юридическая стратегия, хоть и возможна с правовой позиции, может иметь крайне негативные последствия для публичного имиджа компании, как это ранее случалось с другими крупными корпорациями, выбиравшими подобную тактику защиты, в которой вину перекладывали на жертву.