ИИ советы способны сделать человека втрое менее точным — именно так и произошло в новом исследовании французских и итальянских учёных: после общения с нейросетью точность ответов упала с 27% до 9%, а уверенность в собственной правоте выросла с 30% до 76%. Люди не просто чаще ошибались — они были в два раза увереннее в своих неверных ответах. Это и есть главный парадокс доверия к ИИ: чем чаще мы к нему обращаемся, тем хуже соображаем сами.
Как ИИ снижает критическое мышление: что показал эксперимент и почему нужен совет ИИ
Исследование провели Валерио Капраро (Университет Милана-Бикокка), Кьяра Маркоччиа (Высшая нормальная школа) и Вальтер Куаттрочокки (Римский университет Сапиенца). Специально подобрали вопросы, на которых ИИ обычно ошибается: например, цвет формы команды в фильме «Играй, как Бекхэм». Использовали модель Step 3.5 Flash, которая на таких вопросах чаще давала неверный ответ — чтобы исключить версию, что люди просто разумно доверились надёжному инструменту.
Результат оказался тревожным: готовность честно сказать «не знаю» рухнула с 44% до 3%. То есть ИИ снижает критическое мышление не тем, что даёт неправильные советы от ИИ — а самим фактом своего присутствия. Людям проще принять готовый ответ, чем признать собственное незнание. Часть участников, которые ответили бы верно самостоятельно, спросили нейросеть — и ошиблись.
Почему полезные советы ИИ иногда только вредят: когда стоит спросить совет у ИИ
Учёные из Уортона ещё раньше описали похожий эффект термином «когнитивная капитуляция»: люди принимают неверные ответы ИИ в 80% случаев, при этом чувствуя себя увереннее, чем без ИИ вообще. Новое исследование добавляет важную деталь: дело не только в том, что мы верим неправильным ответам. Сама доступность ИИ отучает нас замечать границы собственных знаний — а это один из ключевых когнитивных искажений, которые ИИ незаметно встраивает в наше мышление.
Доверие к алгоритмам: деньги не спасают, но как формируется доверие к ИИ
Казалось бы, добавь денежный стимул за правильный ответ — и люди начнут перепроверять себя. Отчасти сработало: готовность признать «не знаю» выросла с 3% до 8%, точность — с 9% до 16%. Но это всё равно намного хуже базовых показателей без ИИ (44% и 27%). Доверие к алгоритмам оказалось сильнее финансовой мотивации — люди предпочитают быстрый уверенный ответ нейросети собственным сомнениям, даже когда на кону деньги.
Искусственный интеллект риски: что делать читателю @aigoby и как получить полезные советы ИИ
Для тех, кто использует ИИ в работе и заработке, вывод простой: относитесь к советам от ИИ как к черновику, а не к истине. Особенно там, где нужны конкретные факты, детали, цифры — именно здесь модели чаще всего уверенно ошибаются. Проверяйте ключевые решения вручную, не позволяйте нейросети заменить собственную оценку ситуации.
Отдельная тревога — дети и подростки, растущие с ИИ ещё до того, как у них сформировалось критическое мышление. Похожая проблема уже есть у Google: обновлённый ИИ-поиск заменил ссылки на уверенные сгенерированные ответы, и организация Common Sense Media назвала это «неприемлемым риском» для школьников.
Главный тренд очевиден: продукты на основе ИИ спроектированы так, чтобы всегда отвечать, а не признавать неопределённость. И люди, которые ими пользуются, незаметно учатся делать то же самое.
Комментарии 0