Автор SB 1047 представляет новый законопроект об искусственном интеллекте в Калифорнии

В пятницу сенатор штата Калифорния Скотт Винер представил новый законопроект, который защитит сотрудников ведущих лабораторий в области ИИ и позволит им высказываться, если они считают, что системы ИИ их компании могут представлять «критическую угрозу» для общества. Новый законопроект SB 53 также создаст общедоступный кластер облачных вычислений под названием CalCompute, чтобы предоставить исследователям и стартапам необходимые вычислительные ресурсы для разработки ИИ, приносящего пользу обществу.

Последний законопроект Винера об искусственном интеллекте, SB 1047, принятый в Калифорнии, вызвал оживлённую дискуссию по всей стране о том, как обращаться с масштабными системами искусственного интеллекта, которые могут привести к катастрофам. Законопроект SB 1047 был направлен на предотвращение возможности того, что очень крупные модели искусственного интеллекта могут привести к катастрофическим последствиям, таким как гибель людей или кибератаки, ущерб от которых превысит 500 миллионов долларов. Однако в сентябре губернатор Гэвин Ньюсом наложил вето на законопроект, заявив, что SB 1047 — не лучший подход.

Но дебаты по поводу SB 1047 быстро переросли в скандал. Некоторые лидеры Кремниевой долины заявили, что SB 1047 нанесёт ущерб конкурентоспособности Америки в глобальной гонке ИИ, и утверждали, что законопроект был вдохновлён нереалистичными опасениями, что системы ИИ могут привести к сценариям конца света, как в научной фантастике. Тем временем сенатор Винер заявил, что некоторые венчурные инвесторы участвовали в «пропагандистской кампании» против его законопроекта, отчасти ссылаясь на заявление Y Combinator о том, что SB 1047 отправит основателей стартапов в тюрьму. Специалисты отметили, что это утверждение не соответствует действительности.

Законопроект SB 53, по сути, берёт наименее спорные части SB 1047 — такие как защита информаторов и создание кластера CalCompute — и объединяет их в новый законопроект об искусственном интеллекте.

Примечательно, что Винер не уклоняется от обсуждения экзистенциальных рисков, связанных с ИИ, в SB 53. Новый законопроект конкретно защищает информаторов, которые считают, что их работодатели создают системы ИИ, представляющие «критический риск». В законопроекте критический риск определяется как «предсказуемый или существенный риск того, что разработка, хранение или внедрение разработчиком базовой модели, как она определена, приведёт к смерти или серьёзным травмам более 100 человек или нанесёт ущерб правам на денежные средства или имущество на сумму более 1 миллиарда долларов».

SB 53 ограничивает разработчиков передовых моделей ИИ, в число которых, вероятно, входят OpenAI, Anthropic, xAI и другие, в их праве наказывать сотрудников, которые раскрывают конфиденциальную информацию генеральному прокурору Калифорнии, федеральным властям или другим сотрудникам. Согласно законопроекту, эти разработчики должны будут сообщать информаторам о некоторых внутренних процессах, которые вызывают у них беспокойство.

Что касается CalCompute, то SB 53 создаст группу для разработки общедоступного кластера облачных вычислений. В состав группы войдут представители Калифорнийского университета, а также других государственных и частных исследовательских организаций. Группа будет давать рекомендации по созданию CalCompute, по размеру кластера и по тому, какие пользователи и организации должны иметь к нему доступ.

Конечно, SB 53 находится на очень ранней стадии законодательного процесса. Законодательные органы Калифорнии должны рассмотреть и принять законопроект, прежде чем он попадёт на стол губернатора Ньюсома. Законодатели штата наверняка будут ждать реакции Кремниевой долины на SB 53.

В 2025 году, вероятно, будет сложнее продвигать инициативы, направленные на обеспечение безопасности искусственного интеллекта, чем в 2024 году. В том году в Калифорнии было принято 18 законопроектов, но теперь кажется, что движение против ИИ теряет позиции.

Вице-президент Дж. Д. Вэнс заявил на Парижском саммите по искусственному интеллекту, что Америка не заинтересована в безопасности ИИ, а ставит во главу угла инновации в области ИИ. Хотя кластер CalCompute, созданный в соответствии с законом SB 53, несомненно, способствует развитию ИИ, неясно, как в 2025 году будут развиваться законодательные инициативы в области рисков, связанных с ИИ.

Источник