Корейские учёные создали человекоподобную систему памяти для ИИ-трансформеров

Искусственный интеллект стал ещё совершеннее, передает BaigeNews.kz со ссылкой на Lenta.

Учёные южнокорейского Университета Сунгюнгван создали человекоподобную систему памяти - Memoria. Она улучшает производительность моделей машинного обучения – трансформеров. Именно эти трансформеры используются для обработки текстов на естественном языке и лежат в основе диалоговых платформ, таких как ChatGPT.

Memoria  извлекает и хранит информацию, на нескольких уровнях - рабочей, кратковременной и долговременной памяти, используя коэффициенты, соответствующие силе связи между нейронами.

Серия экспериментов показала, что Memoria помогает трансформерам обрабывать длинные последовательные данные. Она улучшает способность учитывать долгосрочные закономерности в различных задачах и превосходит существующие методологии в сортировке и языковом моделировании, а также классификации длинных текстов.