В охранные системы и автомобили активно внедряют искусственный интеллект (AI) и нейронные сети. Исследователи из Labsix поставили перед собой цель проверить, насколько сейчас можно доверять таким системам. Экспериментаторы показали, как Google AI принял созданную на 3D-принтере черепаху за двуствольное ружье. Такая оптическая иллюзия видна только компьютерному зрению, принявшему внешний вид черепахи за винтовку. Человек же видит обыкновенное земноводное. Тоже самое происходит и с бейсбольным мячиком, классифицированным ИИ чашкой эспрессо.

&times

В реальной жизни такие иллюзии могут привести к ошибкам с тяжелыми последствиями. Например, автопилот в автомобиле примет дорожную рекламу, где изображен человек, за стоящего пешехода и выполнит резкое торможение в неположенном месте.

На нейронные системы возлагается все больший круг задач, поэтому такие ошибки могут привести к непредвиденным последствиям.
Экспериментаторы из Labsix испытывали открытую для общего тестирования систему Google Inception-v3. На данный момент этот алгоритм не используется на практике, но идет активная подготовка его внедрения в жизнь. Но для Google AI кот и гуакамоле практически идентичны. Что бы отличить кота от соуса в Google приняли решение поворачивать исходные изображения на некоторый угол.


Исследователи имели доступ к открытому для тестирования алгоритму, однако в реальной жизни у пользователей искусственным зрением такого доступа не будет. Ошибки искусственного интеллекта могут дорого обойтись человеку, поэтому разработчики должны внимательно исследовать наличие случайных стечений обстоятельств, чтобы избежать проблем в будущем. Google исследование не прокомментировал.


Источник


Читайте также:

Тайна южноамериканского места Пума Пунку
На поверхность подняли колокол с затонувшего в Арктике судна
Космический корабль США Orion доставлен на стартовую площадку
Новый русский танк превзойдет все мировые аналоги
Станции РФ на Луне подпитаются от оружейного плутония
Роскомнадзор восстановил доступ к видеохостингу Vimeo
Заброшенные нефтяные скважины в США отравляют атмосферу
Глава Роскомнадзора призывает запретить биометрическую идентификацию детей

Добавить комментарий

Войти с помощью: 

Ваш e-mail не будет опубликован. Обязательные поля помечены *

*