57 ученых из 29 стран призвали к бойкоту южнокорейского университета из-за нового центра, нацеленного на использование искусственного интеллекта (ИИ) для «укрепления национальной безопасности».
О конфликте пишет журнал Science.
20 февраля Корейский институт передовых технологий (KAIST) открыл новый Исследовательский центр конвергенции национальной обороны и искусственного интеллекта. На веб-странице, которая уже удалена университетом, говорилось, что совместно с южнокорейской оборонной компанией Hanwha Systems центр будет работать над «системами управления и принятия решений на базе ИИ комплексными навигационными алгоритмами для беспилотных подводных транспортных средств, системами обучения для умных самолетов, технологиями интеллектуального отслеживания и распознавания объектов».
Бойкот организовал Тоби Уолш, специалист в области информатики из Университета Нового Южного Уэльса (Австралия). Ученые опасается, что исследования будут использоваться для создания автономного оружия, в том числе беспилотных боевых дронов, подводных лодок, крылатых ракет, автономных стрелков или боевых роботов.
«Прискорбно, что такой престижный институт хочет вступить в гонку вооружений, — говорится в открытом письме участников бойкота. — Мы публично заявляем, что будем бойкотировать любое сотрудничество с KAIST до тех пор, пока не получим подтверждений, что Центр не станет развивать автономное оружие без значимого человеческого контроля».
В ответ на запрос издания Science Insider президент KAIST Сан Чуль Шин заявил, что KAIST не намерен участвовать в разработке смертоносных автономных систем и роботов-убийц.
«KAIST в полной мере осознает этические проблемы при применении всех технологий, включая искусственный интеллект», — написал он.
В письме бойкотирующие не уточняют понятие «значимого человеческого контроля», но это фразу часто интерпретируют как наличие спускового крючка в руке человека.
Идея бойкота KAIST пришлась по душе далеко не всем.
«Бойкотировать весь университет из-за исследований в одной лаборатории — немного экстремально, — говорит Рональд Аркин, специалист в области информатики из Технологического института Джорджии (США). — Какие требующие запрета системы будут исследовать эти люди? Я не против запрета, но считаю его преждевременным».
Читайте также: NASA хочет послать на Марс рой летающих роботов
