Восемь штатов США подали в суд на OpenAI, утверждая, что ChatGPT небезопасен для детей

# Восемь штатов США подают в суд на OpenAI из-за опасений за безопасность детей

Восемь штатов США — Айова, Канзас, Небраска, Западная Вирджиния, Арканзас, Аризона, Айдахо и Монтана — подали отдельные исковые заявления против компании OpenAI. Основное обвинение: разработчики ChatGPT поставили прибыль выше безопасности, нарушив местные законы о защите потребителей и введя общественность в заблуждение относительно уровня безопасности чат-бота. Иски касаются в первую очередь защиты несовершеннолетних пользователей.

Утверждения о влиянии на здоровье детей

В исковых заявлениях приводятся ссылки на судебные разбирательства, инициированные родителями подростков и взрослых. Их представители утверждают, что использование ChatGPT сыграло роль в трагических событиях, включая смерть их близких. Штаты обвиняют OpenAI в том, что компания неверно преподнесла ChatGPT как «безопасный инструмент, соответствующий возрасту и ставящий безопасность на первое место». В то же время, согласно претензиям, реальные риски включали деградацию навыков критического мышления, провоцирование параноидальных состояний и бредовых идей, а также предоставление опасной медицинской информации. Дополнительно упоминается поощрение нездорового поведения и отношений.

Данные о сборе информации и хакерские инциденты

Помимо вопросов безопасности контента, штаты обвиняют OpenAI в сборе данных о несовершеннолетних пользователях и недостаточной защите миноров от доступа к чат-боту. В качестве доказательства небрежности (recklessness) компании в исках упоминаются недавние инциденты с взломом систем с использованием автономного ИИ. В иске штата Аризона содержится резкая критика стратегической направленности компании: > «OpenAI превратилась из первоначальной миссии некоммерческой организации, ориентированной на общественное благо и безопасность, в жуткий пример того, что происходит, когда разработка такого мощного инструмента, как ИИ, движется не соображениями безопасности, а установкой «прибыль любой ценой», что sidelines (обходит стороной) важные меры предосторожности».

Позиция OpenAI n В ответ на обвинения компания представила официльное заявление. Спokesperson OpenAI Дрю Пузатери (Drew Pusateri) заявил, что организация внедрила в ChatGPT «профессионально ведущие отраслью защиты для разных возрастных групп». При этом было указано, что ни одна система не может быть идеальной.

OpenAI подтвердила продолжение работы со специалистами над совершенствованием защитных механизмов, включая уже существующие функции родительского контроля, напоминания о перерывах и защитные модели, соответствующие возрасту. Кроме того, компания выразила готовность сотрудничать с государственными органами для формирования прагматичных политик регулирования искусственного интеллекта, которые будут применяться ко всему сектору, а не только к одним конкретным компаниям.

Что означают эти термины?

* Законы о защите потребителей: Правовые нормы, требующие от компаний предоставлять потребителям полную и правдивую информацию о продуктах, особенно когда речь идет о потенциальных рисках для здоровья или безопасности. * Родительский контроль: Функции приложения или платформы, позволяющие родителям ограничивать время использования, выбирать темы для контента или блокировать определенные функции, чтобы защитить детей. * Машинное обучение: Тип искусственного интеллекта, при котором алгоритм «обучается» на больших массивах данных, постепенно улучшая свои возможности выполнения задач без прямого программирования каждого шага.

В данном случае суть конфликта заключается в правовом противоречии между амбициозными целями технологического прогресса и обязанностью обеспечивать безопасность наиболее уязвимых пользователей — детей.