Производитель чипов Intel был выбран лидером новой инициативы, возглавляемой американским военным исследовательским крылом DARPA, направленной на улучшение кибер-защиты от атак мошенничества на модели машинного обучения.

Машинное обучение – это вид искусственного интеллекта, позволяющий системам со временем совершенствоваться за счет новых данных и опыта. Одним из наиболее распространенных случаев его использования сегодня является распознавание объектов, например, фотографирование и описание того, что в нем содержится. Это может помочь слабовидящим людям узнать, что на фотографии, если они, например, не видят ее, но это также может быть использовано другими компьютерами, такими как автономные транспортные средства, для определения того, что находится в дороге.

Но мошенники, могут вмешиваться в алгоритмы машинного обучения. Тонкие изменения реальных объектов могут, в случае самоходного транспортного средства, иметь катастрофические последствия.

Всего несколько недель назад исследователи McAfee обманом заставили “Теслу” разгоняться на 50 миль в час выше намеченной скорости, добавив двухсантиметровый кусок ленты на знак ограничения скорости. Исследования были одним из первых примеров манипулирования алгоритмами машинного обучения устройства.

Именно здесь DARPA надеется войти в игру. Ранее в этом году научно-исследовательский отдел заявил, что он работает над программой, известной как GARD, или Гарантирующей система надежности ИИ против обмана. Существующие средства защиты от машинных атак обычно основаны на правилах и предопределены, но DARPA надеется, что сможет развить GARD в систему, которая будет иметь более широкую защиту для борьбы с различными типами атак.

Сегодня компания Intel заявила, что она будет выступать в качестве генерального подрядчика по четырехлетней программе вместе с компанией Georgia Tech.

Джейсон Мартин (Jason Martin), главный инженер Intel Labs, который возглавляет команду Intel GARD, сказал, что производитель чипов и Georgia Tech будут работать вместе, чтобы “улучшить обнаружение объектов и улучшить способность искусственного интеллекта и машинного обучения реагировать на атаки противника”.

На первом этапе программы Intel заявила, что она сосредоточена на совершенствовании технологий обнаружения объектов с использованием пространственной, временной и семантической когерентности как для неподвижных изображений, так и для видео.

DARPA заявила, что GARD может быть использован в ряде настроек – например, в биологии.

“Тот тип защиты на основе сценариев, который мы ищем, можно увидеть, например, в иммунной системе, которая идентифицирует атаку, побеждает и запоминает ее для создания более эффективного ответа во время будущих действий”, – сказала доктор Хава Сигельманн (Hava Siegelmann), менеджер программ в информационном инновационном бюро DARPA.

“Мы должны обеспечить безопасность машинного обучения и их неспособность к обману”, – сказала Зигельманн.

Источник: TechCrunch