Федеральное расследование OpenAI. ИИ-гиганта проверяют на риски для безопасности подростков

Поводом стали серьезные опасения, что продукты компании, включая чат-бот ChatGPT, могут представлять угрозу для психологического благополучия, конфиденциальности и личной безопасности подростков. Согласно документам, полученным Bloomberg, FTC направила в OpenAI запрос, требующий предоставить обширный массив внутренних данных. Фокус расследования сосредоточен на нескольких ключевых областях. Регуляторы хотят выяснить, какие именно данные использовались для обучения алгоритмов OpenAI, особенно те, что могут касаться несовершеннолетних. Компании предписано предоставить подробные описания процессов сбора, обработки и маркировки данных.

FTC подозревает, что существующие системы проверки возраста в продуктах OpenAI легко обойти, что позволяет детям младше 13 лет (установленного возрастного порога) пользоваться платформой. Это прямое нарушение федерального закона о конфиденциальности детей в Интернете (COPPA). Комиссия требует от компании предоставить все внутренние исследования, отчеты и анализ, касающиеся потенциального вреда, который ИИ может нанести пользователям-подросткам. Речь идет о рисках кибербуллинга, формирования деструктивного поведения, распространения дезинформации и манипулятивного влияния.

FTC затребовала все жалобы, полученные OpenAI за последние три года, которые касаются недостоверных, оскорбительных или опасных ответов ChatGPT, а также инцидентов, связанных с конфиденциальностью несовершеннолетних.

Это расследование стало продолжением слушаний в Сенатском подкомитете по защите прав потребителей на прошлой неделе. Мэтт Шулман, сменивший на посту главы компании Сэма Альтмана, выступал вместе с руководителями Meta (признана экстремистской и запрещена в РФ), Snap и Discord.

Сенаторы с обеих сторон политического спектра, в частности Ричард Блументал (демократ) и Марша Блэкберн (республиканец), выразили крайнюю озабоченность. Они приводили конкретные примеры, как ChatGPT давал подросткам подробные советы по совершению опасных действий, а также генерировал откровенно порнографические материалы с участием публичных лиц.

Тогда же Шулман был вынужден признать, что компания «не знает точно», какими данными обучалась ее модель GPT-4, что вызвало шквал критики и недоверия со стороны законодателей.

Расследование FTC — это не просто проверка, это серьезная юридическая угроза для OpenAI. Если комиссия обнаружит нарушения, компании грозят многомиллионные штрафы, а также жесткие предписания по изменению бизнес-практик, что может потребовать коренной перестройки моделей сбора данных и обучения.

Для компании, позиционирующей себя как лидера в области «безопасного и ответственного ИИ», такие обвинения подрывают доверие как пользователей, так и партнеров.

Это первый случай, когда FTC столь масштабно и целенаправленно исследует риски генеративного ИИ для молодого поколения. Исход этого дела установит важный прецедент и может привести к введению строгих федеральных правил для всей быстрорастущей индустрии искусственного интеллекта.

На запросы Bloomberg о комментариях представители OpenAI и FTC пока не ответили. Ожидается, что компания будет тесно сотрудничать со следствием, пытаясь смягчить последствия и доказать свою приверженность защите самых уязвимых пользователей.