Учёные представили новый метод, который помогает искусственному интеллекту лучше справляться с логическими рассуждениями. Работа уже принята на основную секцию конференции EMNLP 2025 и опубликована в виде препринта на arXiv.
Современные языковые модели уверенно решают простые задачи, но часто "сбиваются" на многоступенчатых рассуждениях. В результате они могут противоречить сами себе или приходить к нелепым выводам. Это делает ИИ менее предсказуемым и снижает доверие к его результатам.
Исследователи выдвинули гипотезу: логическая состоятельность ответа должна проявляться во взаимосвязи между внутренними представлениями исходных данных и финальным выводом модели.
Для проверки этой идеи команда разработала подход, основанный на анализе механизма внимания. В частности, они изучали взаимодействие двух его компонентов — "queries" (запросы) и "keys" (ключи).
Именно сила связи между ними позволяет оценить, насколько корректно модель выстраивает цепочку рассуждений.
Метод помогает сделать выводы ИИ более логичными и последовательными.
Улучшается предсказуемость работы моделей, что повышает безопасность их применения.
Такой подход может лечь в основу новых алгоритмов, способных решать более сложные задачи без "провалов" в логике.
Если метод будет масштабирован, он позволит создавать ИИ, который будет не просто выдавать ответы, но и демонстрировать более прозрачный ход рассуждений. Это особенно важно для применения в медицине, праве, науке и других областях, где ошибка системы может дорого стоить.