|
ИСТИНА |
Войти в систему Регистрация |
ИПМех РАН |
||
Информационные испытания компьютерной личности, решающей нестандартную физическую задачустатья
- Авторы: Власов А.И., Орехов А.Н., Тетик Л.В.
- Журнал: Нейрокомпьютеры: разработка, применение
- Том: 26
- Номер: 1
- Год издания: 2024
- Издательство: Издательство "Радиотехника"
- Местоположение издательства: Москва
- Первая страница: 32
- Последняя страница: 44
- Аннотация: отацияПостановка проблемы. Системы компьютерной личности базируются на номотетических моделях психики человека и реализуют базовые принципы познавательных процессов, личностных, эмоциональных и поведенческих проявлений. Номотетические модели психики предполагают возможность осмысления любых внешних и внутренних сообщений. Вследствие этогометодика информационных испытаний компьютерной личности должна учитывать особенности детектирования когнитивныхискажений. Возникает проблема определения условий, в которых внешние и внутренние сообщения сделают поведение системы неадекватным, в частности, порождающим когнитивные искажения. Поэтому необходимо определить алгоритмы,наиболее устойчивые к таким искажениям.Цель. Разработать методику информационных испытаний компьютерной личности в условиях поступления избыточной илиинтерферирующей информации (сообщений), а также произвести оценку возможностей компьютерной личности решать нестандартные задачи в данных условиях.Результаты. Рассмотрены методики и результаты информационных испытаний компьютерной системы «АлНикОр» – первойв мире компьютерной личности, решающей нестандартные задачи. Проверена способность системы решать задачи в условиях поступления избыточной, а также интерферирующей информации. Показано, что сообщения, содержащие интерферирующую информацию, создают условия для появления ошибок, в частности, когнитивных искажений. Доказано, что такиеошибки препятствуют решению задачи, либо существенно, часто экспоненциально, увеличивают время решения. Подтверждена гипотеза исследования: рост времени решения с увеличением количества слов и/или количества смыслов аппроксимируется полиномом первой степени.Практическая значимость. С помощью разработанной методики информационных испытаний компьютерной личностиможно определять ее характеристики в условиях внешних, поступивших на вход системы, и внутренних, сгенерированныхсамой системой воздействий, деструктивных относительно процесса решения нестандартной задачи. Использование разработанной методики позволяет более обосновано интерпретировать признаки возможных грубых ошибок (галлюцинаций) как впроцессе обучения, так и в процессе использования больших языковых моделей. Это ускоряет и удешевляет разработку компьютерных систем на основе больших языковых моделей, а также гибридных систем искусственного интеллекта. Демонстрация возможностей алгоритмов компьютерной личности эффективно отстраиваться от избыточной и интерферирующей информации дает возможность разработчикам гибридных систем использовать эти алгоритмы в качестве необходимых компонентов верхнего уровня регуляции поведения при решении задач.
- Добавил в систему: Тетик Лилия Владимировна