Специалисты Новосибирского государственного университета (НГУ) представили программную библиотеку, разработанную для повышения надежности и снижения уровня «галлюцинаций» у нейросетей — явления, когда искусственный интеллект выдает ложную или вымышленную информацию.
В основе разработки лежит технология графов знаний. В отличие от простых таблиц, графы отображают сложные связи между различными данными, что позволяет машинам лучше понимать контекст, выявлять скрытые закономерности и формировать более точные ответы.
Новая библиотека RAGU (Retrieval-Augmented Graph Utility) предназначена для интеграции таких графов знаний с языковыми моделями. Это решение, как сообщают создатели, обеспечивает более достоверные ответы и существенно снижает риск ошибок, связанных с генерацией недостоверной информации.