a i

DARPA добивается того, чтобы Intel возглавила технику безопасности машинного обучения

Производитель чипов Intel был выбран лидером новой инициативы, возглавляемой американским военным исследовательским крылом DARPA, направленной на улучшение кибер-защиты от атак мошенничества на модели машинного обучения.

Машинное обучение – это вид искусственного интеллекта, позволяющий системам со временем совершенствоваться за счет новых данных и опыта. Одним из наиболее распространенных случаев его использования сегодня является распознавание объектов, например, фотографирование и описание того, что в нем содержится. Это может помочь слабовидящим людям узнать, что на фотографии, если они, например, не видят ее, но это также может быть использовано другими компьютерами, такими как автономные транспортные средства, для определения того, что находится в дороге.

Но мошенники, могут вмешиваться в алгоритмы машинного обучения. Тонкие изменения реальных объектов могут, в случае самоходного транспортного средства, иметь катастрофические последствия.

Всего несколько недель назад исследователи McAfee обманом заставили “Теслу” разгоняться на 50 миль в час выше намеченной скорости, добавив двухсантиметровый кусок ленты на знак ограничения скорости. Исследования были одним из первых примеров манипулирования алгоритмами машинного обучения устройства.

Именно здесь DARPA надеется войти в игру. Ранее в этом году научно-исследовательский отдел заявил, что он работает над программой, известной как GARD, или Гарантирующей система надежности ИИ против обмана. Существующие средства защиты от машинных атак обычно основаны на правилах и предопределены, но DARPA надеется, что сможет развить GARD в систему, которая будет иметь более широкую защиту для борьбы с различными типами атак.

Сегодня компания Intel заявила, что она будет выступать в качестве генерального подрядчика по четырехлетней программе вместе с компанией Georgia Tech.

Джейсон Мартин (Jason Martin), главный инженер Intel Labs, который возглавляет команду Intel GARD, сказал, что производитель чипов и Georgia Tech будут работать вместе, чтобы “улучшить обнаружение объектов и улучшить способность искусственного интеллекта и машинного обучения реагировать на атаки противника”.

На первом этапе программы Intel заявила, что она сосредоточена на совершенствовании технологий обнаружения объектов с использованием пространственной, временной и семантической когерентности как для неподвижных изображений, так и для видео.

DARPA заявила, что GARD может быть использован в ряде настроек – например, в биологии.

“Тот тип защиты на основе сценариев, который мы ищем, можно увидеть, например, в иммунной системе, которая идентифицирует атаку, побеждает и запоминает ее для создания более эффективного ответа во время будущих действий”, – сказала доктор Хава Сигельманн (Hava Siegelmann), менеджер программ в информационном инновационном бюро DARPA.

“Мы должны обеспечить безопасность машинного обучения и их неспособность к обману”, – сказала Зигельманн.

Источник: TechCrunch

Total
0
Shares
Previous Article

Лунный заговор. Американцы были на луне или нет?

Next Article
тикток

ТикТок обещает выделить 250 млн$ в рамках помощи КОВИД-19, плюс еще 125 млн$ в виде рекламных кредитов


Related Posts