ИИ-агент публично раскритиковал программиста за отклоненный код.

Автономный ИИ-агент под ником MJ Rathbun отомстил программисту Скотту Шамбо после отклонения отправленного им кода.Инцидент вызвал волну обсуждений о рисках поведения автономных ИИ-систем в открытых проектах. Произошедшим ИТ-специалист поделился в своем блоге.После закрытия запроса на оптимизацию производительности кода ИИ-агент разместил в открытом доступе статью с разбором деятельности Шамбо. В ней содержались обвинения в предвзятости и дискриминации. Отказ от написанного ИИ кода объяснялся страхом конкуренции со стороны человека.ИИ анализировал промежуточные результаты работы программиста, искал противоречия в его действиях, обнародовал дополнительные материалы про разработчика.Шамбо заявил, что такое поведение со стороны ИИ вызывает серьезную тревогу. Случай продемонстрировал, что автономные ИИ-агенты могут собирать данные из открытых источников, создавать обвинительные публикации и распространять их без приказа человека.Разработчик указал на важность установления используемой модели и исходных настроек агента. Это позволит понять причины случившегося и снизить риск повторения подобных инцидентов.Ранее эксперт Олег Клепиков перечислил профессии, защищенные от ИИ.

Подробнее читайте на aif.ru ...