В ByteDance признали, что стажёр «злонамеренно вмешался» в обучение моделей ИИ, используемых в исследовательском проекте
21 октября 2024 года в ByteDance признали, что программист-стажёр Кейю Тянь действительно некоторое время «злонамеренно вмешивался» в обучение ИИ моделей, используемых в исследовательском проекте, но это произошло без ущерба для продуктов компании. Также в ByteDance опровергли информацию, что, якобы, стажёр нанёс убытков на $10 млн, а в ходе саботажа он смог на время заблокировать работу около 8 тыс. графических процессоров, чипов, используемых для обучения моделей ИИ.
В ByteDance сообщили, что стажёр из исследовательской команды по разработке коммерческих технологий для ИИ был уволен в августе за серьёзные дисциплинарные нарушения. Компания добавила, что её официальные коммерческие продукты и большие языковые модели, а также базовая технология для генеративного ИИ, не были затронуты инцидентом.
ByteDance заявила, что проинформировала университет, где обучается стажёр о случившемся. Также о неподобающем поведении программиста компания сообщила в отраслевые ассоциации.
Ранее профильные эксперты по ИБ сообщили, что Тянь устроился в компанию ByteDance стажёром и изнутри два месяца саботировал выполнение проекта по разработке нейросетей, добавляя ошибки в код, а также на встречах команды узнавал о том, как собираются фиксить баги, и придумывал новые. Из-за его действий команда из трёх десятков разработчиков круглосуточно искала и устраняла постоянно появляющиеся ошибки в проекте.
В итоге стажёра выловили по логам. Также инженеры из ByteDance пояснили, что команда из тридцати программистов целых два месяца работала впустую из-за деструктивных действий одного разработчика.
Написать комментарий