Amazon тестировала свои камеры с ИИ на ЖД-вокзалах Великобритании

Системы протестировали на восьми Ж/Д-станциях во всей стране, включая лондонские Юстон и Ватерлоо, Манчестер Пикадилли и менее крупные станции. Технологию опробовали при помощи камер видеонаблюдения с целью оповещения персонала о происшествиях, в том числе для снижения преступности.

Испытания проводили под контролем оператора железнодорожной инфраструктуры Network Rail. В рамках тестирования использовали детектирование объектов — тип машинного обучения, способный отслеживать выход людей на рельсы, проводить мониторинг переполненности платформ, выявлять антисоциальное поведение и преступления.

В отдельных случаях использовали беспроводные датчики для обнаружения скользких полов, переполненных мусорных баков и сливов.

Network Rail раскрыл информацию о тестировании ИИ-систем Amazon после запроса о свободе информации британской некоммерческой организации Big Brother Watch, выступающей за гражданские свободы. Руководитель отдела исследований и расследований объединения Джейк Херфурт назвал тревожными внедрение и нормализацию наблюдений при помощи ИИ в общественных местах без проведения специальных консультаций и обсуждений.

В тестировании применяли комбинацию «умных» камер видеонаблюдения, которые способны обнаруживать объекты и движения на снимаемых изображениях, и старых камер, чьи видеопотоки подключены к облачному анализу. На каждой станции устанавливали от пяти до семи камер или датчиков.

Документ содержит 50 возможных вариантов использования ИИ, однако не все они были реализованы во время испытаний. На станции Лондон-Юстон должны были протестировать систему обнаружения риска совершения самоубийства, но камера вышла из строя, и сотрудники не заменили её.

Особую обеспокоенность Big Brother Watch вызвала оценка «демографии пассажиров». Такой параметр использовали для проведения «статистического анализа возрастного диапазона и демографических характеристик мужчин и женщин». Также система умеет «анализировать эмоции», такие как «счастливый, грустный и злой».

Камеры активировались, когда люди пересекали виртуальную линию возле турникетов. Затем изображения отправляли в систему Amazon Rekognition, которая предназначена для анализа лиц и объектов. Из документа следует, что проект позволял измерить «удовлетворённость» пассажиров. Однако полученные данные могут быть использованы для получения максимального дохода от рекламы и розничной торговли.

Исследователи ИИ регулярно предупреждают, что использование технологии для обнаружения эмоций не следует считать надёжным. Некоторые вовсе выступают за запрет технологии из-за сложности определения реальных эмоций по аудио и видео.