Губернатор Калифорнии наложил вето на вызвавший споры законопроект о безопасности ИИ

30 сентября Ньюсом наложил вето на законопроект SB 1047, известный как "Закон о безопасных и надежных инновациях для передовых моделей искусственного интеллекта", который вызвал значительные споры в Кремниевой долине. Законопроект предлагал обязательное тестирование безопасности ИИ-моделей и другие меры по их регулированию, что вызвало опасения у технологических компаний.

В своем заявлении от 29 сентября Ньюсом отметил, что законопроект слишком сосредоточен на регулировании существующих крупных компаний, работающих с ИИ, и не обеспечивает защиту общественности от "реальных" угроз, которые несет новая технология.

"Законопроект вводит жесткие стандарты даже для самых базовых функций, если они используются крупными системами. Я не считаю, что это лучший подход к защите общественности от реальных угроз, связанных с технологией", — заявил Ньюсом.

Законопроект, разработанный сенатором-демократом из Сан-Франциско Скоттом Винером, также предусматривал обязательное внедрение разработчиками ИИ, включая такие компании, как OpenAI, Meta* и Google, функции "аварийного отключения" для их моделей. Также от компаний требовалось публиковать планы по минимизации рисков, связанных с использованием ИИ.

В случае принятия законопроекта разработчики ИИ могли бы стать объектами судебных исков от генерального прокурора штата, если бы их модели представляли угрозу, например, при захвате управления энергетической сетью.

Ньюсом отметил, что обратился к ведущим мировым экспертам по безопасности ИИ с просьбой помочь Калифорнии разработать "реалистичные меры регулирования", основанные на научном анализе рисков. Он добавил, что поручил государственным агентствам расширить оценку рисков, связанных с возможными катастрофическими событиями, вызванными развитием ИИ.

Несмотря на то что Ньюсом наложил вето на SB 1047, он подчеркнул необходимость внедрения адекватных протоколов безопасности для ИИ, добавив, что регулирующие органы не могут позволить себе "ждать крупной катастрофы, чтобы начать защищать общественность".

Ньюсом также отметил, что его администрация за последние 30 дней подписала более 18 законопроектов, касающихся регулирования ИИ.

*Компания Meta Platforms Inc. признана экстремистской организацией, и ее деятельность запрещена на территории РФ