ПРОБЛЕМЫ ПОСТРОЕНИЯ AGI И ПРЕДЛАГАЕМЫЕ ПУТИ ИХ РЕШЕНИЯ

Источник: futurobotics


Проблема
Решение
  Невозможность создания AGI с неограниченными возможностями Создание AGI с ограниченными возможностями, HLAI и выше, но не намного
1 Ограниченность (комбинаторным взрывом) стохастического подхода Декомпозиция задач на низкоразмерные компоненты
2 Имитация интеллектуальной деятельности Выявление причин эффективности решения задач методом декомпозиции
3 Теоремы неполноты Использование ограниченных знаний для решения узких задач с возможностью получения новых знаний
4 Проблемы аппроксимации преобразований Оптимизация не только выходной функции, но и процесса аппроксимации
5 Понятийно-семантическое описание как альтернатива аппроксимации Использование аппроксимации как основы для получения понятийно-семантического описания
6 Проактивное поведение и двунаправленный экран Сравнение ожидания развития событий с их фактической реализацией
7 Использование знаний Построение прогноза развития событий на основе имеющихся знаний
8 Получение новых знаний Выявление различия между прогнозом и фактической реализацией событий
9 Знания не дают понимания Понимание (3 типа) - использование знаний о простых объектах и явлениях в сложных ситуациях
10 Формирование промежуточных целей Использование целей в иерархической структуре управления
11 Технологическая сингулярность Увеличение объёма знаний не ведёт к автоматическому нахождению оптимальных путей их использования
12 Выявление причинно-следственной связи Собственная активность как способ создания причин и выявления следствий
13 Малые успехи роботов в неформализованной среде Представление неформализованной среды в виде иерархической декомпозиции
14 Мышление Компромисс между проверкой небольшой части из бесконечного набора возможных вариантов и скоростью ответа
15 Квалиа Способ оценки впервые встретившихся ситуаций на основе оценок нижних уровней
16 Чувства и эмоции (нравится, страшно, противно и др.) машин - не только оценки "лучше-хуже" Векторные настройки и управление процессами обучения и реализацией поведения
17 Формирование главных целей Построение высокоуровневых целей на основе квалиа
18 Ограниченность компетенций без функции сознания Возможность оценить последствия реально встретившихся ситуаций при невозможности иметь оценки для всех мыслимых ситуаций
19 Демифологизация сознания Объяснения инсайта (озарения) на основе формирования иерархической структуры карт
20 Сложность определения принципов дружественного или выгодного AGI Перманентная переоценка правильности поставленных целей всех уровней с учётом сложившихся условий
21 Свобода воли как общественный договор Системы и роботы с чувствами и эмоциями могут строить своё поведение с учётом норм цивилизованного общества

Три вида понимания (на основе представления, что статистически достоверные знания могут быть получены только для простых объектов и явлений):

  • Разделение сложной сцены на понятную и непонятную (новую…) части;
  • Выбор путей использования знаний при решении сложных задач;
  • Прогнозирование развития сложных ситуаций на основе знаний о простых объектах и явлениях.

Страница сайта http://test.interface.ru
Оригинал находится по адресу http://test.interface.ru/home.asp?artId=40258