Учёные научили искусственный интеллект мыслить логичнее

Учёные представили новый метод, который помогает искусственному интеллекту лучше справляться с логическими рассуждениями. Работа уже принята на основную секцию конференции EMNLP 2025 и опубликована в виде препринта на arXiv.

В чём проблема

Современные языковые модели уверенно решают простые задачи, но часто "сбиваются" на многоступенчатых рассуждениях. В результате они могут противоречить сами себе или приходить к нелепым выводам. Это делает ИИ менее предсказуемым и снижает доверие к его результатам.

Суть нового метода

Исследователи выдвинули гипотезу: логическая состоятельность ответа должна проявляться во взаимосвязи между внутренними представлениями исходных данных и финальным выводом модели.

Для проверки этой идеи команда разработала подход, основанный на анализе механизма внимания. В частности, они изучали взаимодействие двух его компонентов — "queries" (запросы) и "keys" (ключи).

Именно сила связи между ними позволяет оценить, насколько корректно модель выстраивает цепочку рассуждений.

Почему это важно

• Метод помогает сделать выводы ИИ более логичными и последовательными.

• Улучшается предсказуемость работы моделей, что повышает безопасность их применения.

• Такой подход может лечь в основу новых алгоритмов, способных решать более сложные задачи без "провалов" в логике.

Перспективы

Если метод будет масштабирован, он позволит создавать ИИ, который будет не просто выдавать ответы, но и демонстрировать более прозрачный ход рассуждений. Это особенно важно для применения в медицине, праве, науке и других областях, где ошибка системы может дорого стоить.