Эксперты в области ИИ выступили против «роботов-убийц»

Более пятидесяти ведущих академиков, работающих в области робототехники, призвали бойкотировать Корейский институт передовых технологий [KAIST], опасаясь его партнерства с оборонной компанией по разработке автономного оружия. Исследователи в области искусственного интеллекта обеспокоены тем, что сотрудничество между KAIST и его партнёром, производителем оборонных систем Hanwha, может привести к разработке «роботов-убийц».

• Исследователи обучили систему ИИ манипулированию эмоциями человека
• «ИИ — это фундаментальный риск для существования человеческой цивилизации»

Открытый 20 февраля 2018 года, научно-исследовательский центр по конвергенции национальной обороны и искусственного интеллекта был создан для того, чтобы «обеспечить прочную основу для развития технологий национальной обороны». В открытом письме на имя президента Корейского института передовых технологий, исследователи и инженеры выразили «огромную озабоченность» по поводу центра, заявив, что он «ускорит гонку вооружений» для разработки оружия на основе ИИ.

«Если будет разработано, автономное оружие станет третьей революцией в войне, — говорится в письме. — Они [автономные орудия на базе искусственного интеллекта] позволят вести войну быстрее и масштабнее, чем когда-либо прежде. Они могут стать оружием террора. Деспоты и террористы могут использовать их против ни в чём не повинных людей, устраняя любые этические ограничения».

Исследователи из около 30 стран заявили, что они не будут посещать KAIST, принимать посетителей из Корейский института передовых технологий или вносить свой вклад в какой-либо исследовательский проект с участием KAIST, пока не будут предоставлены гарантии.

Тоби Уолш, профессор Университета Нового Южного Уэльса и организатор бойкота, сказал The Guardian: «Есть масса замечательных областей, в которых можно найти применение искусственному интеллекту — включая спасение жизней, в том числе в военном контексте, но открыто заявлять о разработке автономного оружия, это уже вызывает огромную озабоченность. [KAIST] — очень уважаемый университет, сотрудничающий с очень этически сомнительным партнёром, который продолжает нарушать международные нормы».

В ответ на бойкот, руководство Корейский института передовых технологий опубликовало официальное заявление для прессы, в котором опровергается утверждения о том, что учреждение работает над так называемыми «роботами-убийцами»: «У KAIST нет никаких намерений заниматься разработкой летальных автономных систем вооружения и роботов-убийц. KAIST в значительной степени осознаёт этические проблемы в применении всех технологий, включая искусственный интеллект. Как академическое учреждение, мы очень высоко ценим права человека и этические стандарты».

Южнокорейская компания Dodaam Systems уже производит полностью автономный «боевой робот» — стационарную башню, способную обнаруживать цели на расстоянии до 3 километров. Среди клиентов — Объединенные Арабские Эмираты и Катар.

Taranis — милитаризованный дрон, представляющий собой вершину инженерного и авиационного дизайна полутора миллионов человеко-часов работы ведущих британских учёных, аэродинамиков и системных инженеров из 250 британских компаний. По словам Тоби Уолша, построенный британской оборонной компанией BAE Systems беспилотник может работать полностью автономно.

Taranis был разработан, чтобы продемонстрировать способность Великобритании создать беспилотную воздушную систему, которая под контролем человека-оператора способна осуществлять постоянное наблюдение, маркировку целей, сбор разведданных, сдерживание противников и проведение ударов на вражеской территории.