ИИ-система Gaggle круглосуточно следит за учениками одной средней школы в США ради безопасности

Система компании на базе искусственного интеллекта анализирует все домашние задания, электронные письма, фотографии и чаты на школьных гаджетах, чтобы найти признаки антисоциального поведения, суицидальных наклонностей, употребления наркотиков и алкоголя.

После выявления подобных нарушений к учащемуся применяют меры от отправки к администрации учебного заведения до визита в полицию.

Руководство округа указывает, что Gaggle представляет собой инструмент для повышения безопасности и благополучия учеников и персонала. Институт здравоохранения Канзаса указывает, что уровень самоубийств среди молодёжи в штате превысил средний показатель по стране.

Gaggle уверяет, что в 2018-2023 годы компания спасла почти 5,8 тыс. жизней учеников. Фирма проанализировала 28 млрд студенческих материалов и отметила 162 млн из них как подлежащие проверке.

Система Gaggle использует ИИ для маркировки опасного контента на школьных устройствах и в учётных записях, чтобы провести проверку и заблокировать его. Анализ экспертов помогает должностным лицам принимать меры до того, как подростки нанесут вред себе или другим. В серьёзных ситуациях система оповещает выбранные округом контакты даже после окончания рабочего дня или в выходные. В крайнем случае Gaggle может вызвать полицию.

После внедрения системы в одном из случаев администрация Lawrence High School вызвала весь класс, чтобы ученики объяснили содержание фотографий из творческого задания, сообщила школьная газета Budget. Именно юные журналисты многое рассказали о применении Gaggle в школе.

В Budget также задались вопросом, нарушает ли использование системы Первую поправку Конституции США, Закон о защите прав потребителей Канзаса и Закон защиты студенческих публикаций штата.

Критика системы не остановила школьный совет продлить контракт с компанией ещё на $53 тыс., хотя весной округ договорился с Budget об удалении Gaggle со школьных устройств.