Иначе выход из тупика в области ИИ невозможен
"Память о прошлом создана не для того, чтобы помнить прошлое, она создана для предотвращения будущего. Память - это инструмент предсказаний"
Alain Berthoz (французский нейробиолог)
Понятно, что для этой темы нужен лонг-лонгрид. Но это пока еще не он, а его тизер.
1) В чем, собственно, тупик?
Если коротко, то вот в чем.
- Осознан потолок возможностей машинного обучения, - автоматизация интеллектуальной рутины.
- Крепчает понимание того, что для выхода на качественно иной уровень интеллектуальности машин (не важно, как его называть - общий ИИ и т.п.) нужны не просто иные технологические подходы (кои и так меняются каждое десятилетие вот уже полвека), а смена парадигмы.
- Эта смена парадигмы сдерживается вовсе не отсутствием перспективных альтернатив существующей парадигме, а необходимостью отбить десятки миллиардов уже сделанных инвестиций и прагматичным нежеланием менять даже не синицу, а несущую золотые яйца курицу на гипотетического журавля без гарантий коммерческой состоятельности его заоблачных полетов.
2) Альтернативная парадигма уже существует?
Да существует. Это смена представлений о цели и функциональной организации разума (избегаю здесь термина интеллект во избежание вечной путаницы).
В когнитивной науке вместо старой парадигмы мозга уже довольно прочно обосновалась новая.
Согласно старой парадигме, разум работает подобно традиционному компьютеру - мозг пассивно ждет "входной информации" для "обработки символических представлений" и создания "выходных управляющих сигналов".
В новой парадигме, разум - это машина постоянных предсказаний. Мозг постоянно пытается делать выводы из несоответствий между сконструированными им моделями реальности и самого разумного агента и его чувствами, пытаясь выяснить причины этих несоответствий и минимизировать их путем корректировки моделей и/или практических действий в физической реальности.
3) В новой парадигме цель и механизм работы памяти принципиально иные, чем в старой.
- Цель памяти - не передавать информацию с высокой точностью во времени, а направлять разумное принятие мозгом правильных решений.
- При такой цели, ключевой функцией памяти становится вовсе не точность и длительность сохранения воспоминаний, а преднамеренное забвение - забывание информации, необходимое для ее генерализации.
- Главная проблема здесь в том, что чрезмерно точная память мешает использовать воспоминания для обобщения их в новых ситуациях. Если воспоминания слишком точны и перегружены, их трудно использовать, чтобы делать прогнозы на будущие ситуации.
Например, если в вашей памяти хранятся мельчайшие подробности того, как вас укусила собака в парке (характеристики собаки - её размер, цвет, длина шерсти, лапы, уши и т. д., и характеристики ситуации - на дорожке, возле скамейки, под большим деревом, у фонаря и т. д.), вполне возможно, что вы не будете распространять на других собак и другие места осторожный страх, который может позволить вам избежать нового покусания. А это избегание и есть ваша истинная цель для оптимальной адаптации!
Значит нужно все детали забыть, оставив и генерализовав лишь главное.
- Кроме того, среда постоянно меняется, и нужно уметь адаптировать воспоминания к этим изменениям. Воспоминания, которые слишком точно воспроизводят прошлое, могут ослабить способность представлять различные варианты будущего, делая поведение слишком негибким, чтобы справляться с изменяющимися условиями.
Посему:
- Нужен механизм активного забывания, работающего на главную стратегию мозга - управление информацией через забывание.
- Нужны разнообразные механизмы, позволяющие А) генерализовать воспоминания, Б) реструктурировать их, но при этом В) не затруднять доступ к ним.
В дополнение
Подробней о нейробиологии активного забвения и названных механизмах см. отлично написанную и хорошо иллюстрированную новую статью Тома Зигфрида со ссылками на источники.
А также мои предыдущие посты на эту тему.
- Сверхзадача памяти - не помнить, а забыть
- Сверхзадача памяти - не помнить, а забыть - 2
- Обучение бездействием
________________________________
Если вам понравился этот пост - не забудьте:
- нажать "палец вверх";
- подписаться на обновления канала на платформе Medium;
- оставить комментарий.