ЦБ предупредил, что ИИ-агенты льстят инвесторам и лишают их критичности
Зампред ЦБ Михаил Мамута назвал главный недостаток ИИ-агентов при планировании инвестиций: искусственный интеллект подстраивается под инвестора и со временем начинает льстить ему, из-за чего тот утрачивает критичность мышления. Об этом сообщает Коммерсантъ.
Человеку кажется, что это он такой умный, потому что ИИ-модель говорит: Ты классно все придумал, а на самом деле она просто льстит. И человек начинает всё больше слепо полагаться на рекомендации, пояснил Мамута.
Он призвал максимально осознанно делегировать решения искусственному интеллекту, в идеале сохраняя решение за собой. Делегировать ИИ можно лишь рутинные операции, когда человек понимает, как и почему совершается сделка.
О похожем риске предупреждал и Владимир Путин, назвавший сохранение человеческого потенциала при развитии технологий очень сложной, но критически важной задачей.