Дуглас Крокфорд выступил с резкой критикой неправильного применения ИИ

На протяжении последних двух лет Крокфорд много говорил и писал об ИИ, но все его высказывания имели более сдержанный тон. На фоне снижения интереса со стороны американских СМИ и пользователей социальных сетей к теме ИИ, вызванного завершившейся президентской гонкой в США, его публикация выглядит как гром среди ясного неба:

Есть вещи, которые раньше было трудно делать, но теперь их очень легко сделать с помощью ИИ, например, списывать в школе и притворяться, что выполняешь свою работу. Так что придется к этому приспосабливаться.

Системы были обучены на огромном количестве контента, не являющегося общественным достоянием, поэтому каждый акт генерации является актом творческого плагиата и потенциальным нарушением авторских прав, так что придется приспосабливаться и к этому.

Многое из того, на чем их обучали, было токсичным и неправильным. Я заметил, что генератор изображений от Microsoft¹ состоит как минимум из трех частей: первая часть сканирует текст запроса на наличие запрещенных материалов, таких как имена собственные, вторая часть генерирует изображения, а третья часть подвергает изображения цензуре. Он создает 4 изображения за раз, но в итоге вам может быть показано только 3, или 2, или 1, или вообще 0. Например, я делал запрос «жареный цыпленок и арбуз»² и постоянно получал 0 изображений. Я полагаю, что это происходило потому, что материал, который они генерировали, был жутко расистским из-за обучения на контенте из Всемирной паутины.

Моделям требуется много данных, но они уже использовали все, что может предложить мир. Очистка данных приведет к уменьшению размера набора для ИИ, а это не то, чего они хотят. Сейчас Всемирная паутина наполнена всякой чепухой, сгенерированной искусственным интеллектом, так что ИИ будет получать обратную связь. И это не принесет ничего хорошего. Кроме того, они потребляют огромное количество энергии без реальной компенсации, так что они могут стать причиной экологической катастрофы.

Они способны делать некоторые удивительные вещи, поэтому их очень легко очеловечить, но они делают эти вещи совсем не так, как их делаем мы. Больше всего меня сейчас беспокоит то, что идиоты-менеджеры будут поручать системам задачи, которые те не смогут выполнить в полной мере, из-за отсутствия эмпатии и здравого смысла. Это может очень плохо сказаться на людях.

В Atari у нас были эти заносчивые ребята из МТИ (я их называл ИИ-м***ками³), которые верили, что всего несколько месяцев отделяют их от разгадки секретов практического интеллекта. Что мне понравилось в их подходе, так это то, что мы могли бы понять, как работают их системы, и рассуждать о том, как они рассуждают. Современные же системы находятся за пределами чьего-либо понимания.

¹ Имеется в виду генератор изображений из онлайн-сервиса Microsoft Designer, который недоступен пользователям из РФ.

² Словосочетание «fried chicken» и слово «watermelon» могут восприниматься как расистские выражения, направленные против чернокожих.

³ В оригинале «AI holes».