Admin
Администратор
Искусственный интеллект часто работает как черный ящик, что вызывает вопросы о его надежности и объяснимости.
Учёные из Университета Лафборо разработали систему, которая позволяет отслеживать процесс обучения и принятия решений ИИ.
Исследователи предложили математическую основу для создания ИИ, который демонстрирует свои процессы обучения и принятия решений. Система состоит из вычислительного модуля и отдельной памяти, что позволяет избежать катастрофического забывания и ложных воспоминаний. Прототип успешно справился с простыми задачами, такими как запоминание музыкальных нот и распознавание цветов. Авторы подчеркивают, что их подход позволяет лучше понять механизмы работы ИИ и сделать его более предсказуемым.
