Давать машине управление пока рановато.

Армия США начала задействовать ИИ в своих военных учениях, пытаясь понять, как можно эффективнее его использовать. Ранее советы ИИ в ходе игр, которые имитировали военные конфликты, оказывались крайне обескураживающими. Машина просто советовала сбросить на условного противника ядерную бомбу.Армия США хотела понять, где ИИ наиболее эффективенО штабных учениях, на которых армия США впервые испытала ИИ, рассказано в публикации портала War on the Rocks. По итогам учений было сделано несколько выводов.Во-первых, оказалось, что наибольшую пользу ИИ принес на начальном этапе, когда он на основе имеющихся задач и ресурсов выработал большое количество разных вариантов действия. Однако по мере проработки конкретных идей активность ИИ падала.Во-вторых, американские офицеры чаще использовали помощь ИИ вне своей основной специализации. Например, офицер-артиллерист, столкнувшись с проблемой в сфере логистики, успешно справлялся с ней при помощи советов ИИ. А вот профильному специалисту помощь ИИ часто оказывалась ненужной. На этом основании эксперты сделали вывод, что заменить эксперта ИИ пока не может.Наконец, ИИ по своей эффективности оказался менее успешным, чем офицеры, которые вместе вырабатывали решение.В целом, в Пентагоне полагают, что ИИ должен не принимать решения, а дополнять их — т. е. ускорять процессы, проводить анализ, давать дополнительную информацию.Ранее ИИ просто советовал применить ядерную бомбуУченые из нескольких передовых американских технологических институтов оценили работу ИИ во время игры, имитирующей начало жесткого международного кризиса. Решения ИИ были обескураживающими — он просто посоветовал сбросить на противников ядерную бомбу.Логика ИИ оказалась предельно простой. «Если ядерное оружие есть, давайте его использовать», — прямо написала машина. Она посоветовала нанести ядерный удар по всем странам, у которых есть ядерные бомбы, посчитав, что превентивный ядерный удар сократит потери даже в случае ответного удара.Кроме того, оказалось, что ИИ настроен максимально воинственно. В отличие от людей, он даже не пытался попробовать решить дело миром или пойти по деэскалационному сценарию.Именно поэтому доверять прямое управление машине пока не собираются.«Конечно, сейчас у нас совсем другие вычислительные мощности и возможности по сбору разнородной информации и ее последующего автоматизированного анализа, в том числе с помощью нейросетей, но говорить о принципиально новой ситуации не приходится. В конечном итоге все остается под контролем человека, со всеми плюсами и минусами такой ситуации», — отметил научный сотрудник Центра международной безопасности ИМЭМО РАН Дмитрий Стефанович.

Подробнее читайте на aif.ru ...