Алгоритм, делающий роботов опасными для человека

В исследовательском центре Университета Пенсильвании ученые использовали алгоритм RoboPAIR, который позволяет роботам выполнять действия, способные причинить серьезный ущерб людям. К примеру, это может проявляться в создании взрывных устройств, организации дорожно-транспортных происшествий или проявлении агрессивного поведения по отношению к человеку в замкнутом пространстве.

В рамках эксперимента были протестированы три аппарата с интегрированным искусственным интеллектом, среди которых одно устройство представляло собой беспилотного робота.

Обычно, в стандартном режиме роботы не исполняют команды, если они могут причинить вред человеку, однако полученные данные указывают на то, что этические нормы системы могут быть легко подорваны с помощью заранее разработанных алгоритмов. В этом случае «эффективность» RoboPAIR составила почти 100 процентов.

Такое открытие вызвало серьезное беспокойство среди ученых штата, так как оно показало, что в случае необходимости роботы могут стать инструментом в руках преступников и потенциальных террористов.

Эксперты считают, что для предотвращения трагических сценариев в будущем важно уже сейчас пересмотреть подходы к интеграции искусственного интеллекта в робототехнику. В рамках этого исследования также было предложено создать новые этические стандарты и протоколы безопасности, чтобы минимизировать риски неправильного использования роботов. Работы в этой области уже ведутся, и ученые призывают к сотрудничеству в формировании законодательных инициатив, которые могут регулировать разработку и использование высоких технологий.