Человечий интеллект

• Исправление неверного вопроса. Почему XYZ? ---> Почему я думаю, что XYZ? Смена вопроса позволяет отследить причинно-следственные связи.
• Не спешите предлагать решения.
• Ожидая короткие понятийные расстояния. Хорошее выступление должно проложить понятийный путь, начинающийся от позиций, которые аудитория уже знает или принимает. Если ты задашь недостаточную глубину рекурсии, то в итоге ты будешь просто разговаривать сам с собой. Каждое новое заявление должно очевидным образом опираться на аргументы, сказанные тобой ранее и принятые аудиторией. Как только эта цепочка нарушается, аудитория начинает считать тебя жертвой секты.
• Список когнитивных искажений
• Станислав Дробышевский — неизбежен ли разум
• Сознание и тезис Макса Фрая

Искусственный интеллект

• Искусственный интеллект общего назначения. ТЗ, текущее состояние, перспективы

Книги

• (PDF) Шкловский И.С. — Вселенная, жизнь, разум. Издание 6-е дополненное.
• (PDF) Варшавский В.И. — Оркестр играет без дирижёра. Размышления об эволюции некоторых технических систем и управлению ими (1984). Рассказывается о децентрализованном управлении. Для чтения не требуется никакой специальной подготовки, хотя она обращена не только к так называемому широкому читателю, но и к специалистам, работающим в области управления и кибернетики.
• https://ru.wikipedia.org/wiki/Силлогистические_теории

Фильмы

• Апгрейд / Upgrade (2018)

ИНДУКЦИЯ = логический переход от частного к общему, результат которого имеет вероятностный характер.
Различают Полную индукцию — метод доказательства, при котором утверждение доказывается для конечного числа частных случаев, исчерпывающих все возможности, и неполную индукцию — наблюдения за отдельными частными случаями наводят на гипотезу, которая, конечно, нуждается в доказательстве.

ДЕДУКЦИЯ = логический переход от общего к частному; выведение согласно строгим правилам логики достоверных заключений из посылок.

Составлено на основе видео от Лекса Кравецкого Вечерние беседы про что попало 3

Метод мыслительных процессов Голдратта, предлагает набор правил, позволяющих проверить наличие причинно-следственных связей и их достоверности. Такие правила называются критериями проверки логических построений (КПЛП, Categories of Legitimate Reservation) — это восемь положений, при помощи которых можно проверить, доказать или опровергнуть правильность выстроенных причинно-следственных связей:

1. Ясность — все однозначно понимают используемые утверждения
2. Наличие утверждения — утверждение содержит законченную мысль.
3. Наличие причинно-следственных отношений — действительно ли названная причина вызывает указанное следствие?
4. Достаточность приведённой причины — названная причина достаточна, чтобы вызвать указанное следствие, в данном контексте
5. Проверка наличия альтернативной причины — не может ли названная причина быть всего лишь одной из возможных?
6. Недопустимость подмены причины следствием — перепутаны причина и следствие.
7. Поиск проверочного следствия — если названная причина имеет место, то у неё должны быть не только указанное следствие, но и некоторые другие, побочные, следствия (которые не обязательно должны быть указаны в конкретной диаграмме).
8. Отсутствие тавтологии — следствие предлагается в качестве обоснования существования причины.

Абстрактность = способность абстрагироваться от неважного и сосредоточиться на важном.
Мышление моделирует мир, а не отражает его в полноте всех ненужных деталей. Мышление должно отделять зёрна от плевел и оперировать зёрнами. Мышление должно уметь отвязываться от индивидов и мыслить типами, прототипами, абстрактными понятиями: мы не знаем, что у мышления внутри, но требуем какого-то обобщения с опусканием ненужных для предмета мышления деталей. Нам нужна абстрактность в сложных ситуациях, мы хотим уметь планировать и проектировать впрок, мы хотим работать с целыми классами и типами ситуаций. Без абстрагирования мы не сможем переносить опыт одних ситуаций на другие, мы не сможем эффективно учиться, мы не сможем создавать языки, обслуживающие коллективное мышление – языки позволяют обмениваться самым важным по поводу обдумываемых ситуаций, они очищают общение от неважных подробностей.

Адекватность = степень связаности нашего абстрактного мышления (и порождаемых им описания ситуаций) с реальным миром.
Соответствуют ли наши мыслительные представления о ситуациях реальному (т.е. существующему независимо от нас, материальному) миру? Или мышление нас обманывает и предлагает какие-то неадекватные представления? Нам нужно практичное, применимое для действия мышления, мы хотим быть адекватными и не отрываться от реальности.

Осознанность = способность понимать как мы мыслим, как мы рассуждаем. Она означает волевое управление вниманием: какие области пространства смыслов — дисциплины — сейчас представлены в мышлении, и в какие области пространства смыслов двинется мысль дальше.
Если мы просто "имеем интуицию", это нас не удовлетворит. Мы хотим знать, о чём мы размышляем, как мы это делаем, мы хотим иметь возможность выбирать – мыслить нам о чём-то или не мыслить, мы не хотим быть бессознательными мыслящими автоматами. Мы хотим быть осознанными в мышлении, мы должны учитывать не только мышление, но и наличие самого мыслителя". Ещё сюда "рефлексия" – это осознанность, но только не на текущую ситуацию, а уже прошедшую".

Рациональность = способность провести рассуждение по правилам, логичное рассуждение.
Это возможность отстроиться от своей биологической и социальной природы, не делать связанных с этим ошибок. Рациональность – это возможность проверить результаты быстрого образного интуитивного мышления на отсутствие ошибок, нарушений правил, возможность задействовать опыт человечества в мышлении. Это возможность явно (хотя бы в диалоге с самим собой, то есть осознанно) обсудить эти выработанные цивилизацией правила хорошего мышления, обсудить логические основания мышления, обсудить допустимость или недопустимость использования каких-то отдельных приёмов мышления. Мы не хотим ошибок мышления, поэтому мы должны быть рациональными, мы должны уметь распознавать ошибки мышления у себя и других, мы должны уметь выразить результаты мышления так, чтобы уменьшить число ошибок при восприятии наших результатов другими людьми. Мы хотим быть рациональными, нам нужно уметь делить задачи на части (рацио – это ведь "деление"), мы не хотим чистой образности-интуитивности или чистой эмоциональности-спонтанности, хотя мы не отрицаем их необходимости, но нам прежде всего нужна цивилизованность в мышлении, использование лучших достижений цивилизации в том, как мыслить.

Центром новой американской безопасности предлагается следующее, наиболее общее и в то же время рабочее определение:
ИИ = программно-аппаратные вычислительные комплексы полного информационного цикла (включающего восприятие, фильтрацию, обработку, хранении информации, выполнение аналитических и синтетических когнитивных функций), позволяющие в режиме человек-машина или автономно принимать и реализовывать решения в сложной, динамичной и неопределенной среде.

Данное определение подчеркивает несколько ключевых концептов, без понимания которых лица, принимающие решения, не смогут сделать правильного выбора:

1. ИИ – это не машинное обучение, не нейронные сети и не другие виды программных продуктов. Это – всегда программно-аппаратные комплексы, в которых роль физических компонентов, как минимум, не меньше, чем информационных.
2. Полный цикл обработки информации в настоящее время осуществляется преимущественно на базе комбинаторных методов, глубокого обучения и нейронных сетей.
3. Тенденцией взаимодействия человек-машина в рамках ИИ является повышение уровня автономии ИИ, т. е. возложение на него частично или в полном объеме принятия решений.

Разум

Способность решать нестандартные задачи нестандартными методами.
Необходимы:

• нестандартные задачи
• конкуренция с другими интеллектуалами
• техническое обеспечение — большой сложный мозг
• энергетическое обеспечение — возможность тратить много энергии

Сознание

Сознание есть объединение:

• нашего прошлого в виде данных: кратковременная память, долговременная память.
  Непрерывность памяти о прошлых событиях?
• реакций (быстрое сознание): инстинктивные реакции, выученные(выработанные) реакции;
• абстрактного мышления (медленное сознание, умение строить модели реальности и самого себя): предварительное планирование с прогнозированием последствий.
  Также позволяет исследовать внешние по отношению к себе объекты, моделируя их (вычленяя главное в их структуре/поведении на основе наблюдений и обратной связи от воздействий на);
• способности к рефлексии, т.е. анализу ранее сделанных предсказаний, совершённых действий, произошедших связанных событий, перестройке своей предикативной модели
  Какие же активности мозга должна учитывать система рефлексирования? В эти активности должны входить:
  • предсказания, которые были ошибочны
  • планы, которые встретили препятствия, или неудачи в получении необходимых вам знаний.

Сознание как способность, повинуясь стремлению удовлетворить потребность, составлять алгоритм действий (последовательность применения методов) на основе опыта и имеющихся базовых (изначально заложенных в организме) либо ранее приобретённых (принятых на веру | выработанных самостоятельно на основе опыта взаимодействия с внешним миром) логических правил/установок.

Методами достижения желаемого могут быть в общем случае:

• вынуждение/принуждение других живых организмов к действиям
• самостоятельное преобразование объектов материального мира в инструменты

Опыт и знания могут быть приобретены сугубо из восприятия внешнего мира (всё что НЕсознание), т.е. требуется как минимум один канал получения информации (и не обязательно отправки информации, т.е. на основе наблюдений можно тоже делать выводы и строить правила?).

Два похожих события сливаются в одно прототипичное. Если событие не похоже на прототип, то оно занимает отдельное место в памяти

Нейросети

Как быть с алгоритмом выявления доверия к источникам? На данный момент нейросети просто едят всё что дают. Многократно повторённое становится правдой.

Откуда у людей столько злобы, почему мы со временем начинаем ругать/обвинять не то что ругали/обвиняли раньше?
При каких условиях (precondition, event) возникает фрустрация? Каковы корневые причины?
Как это победить (solution)?

скачать схему в формате .XLOGIC