Я просто пытаюсь сформулировать условия, необходимые для возникновения разума и выдвигаю тезис, что без взаимодействующего со средой материального тела разум не может существовать.
Представим себе, например, среду, в которой находится компьютер. Вся информация поступает в него или из сети или с клавиатуры (+мышь). Способна ли такая среда сохранять и изменять свою структуру?
Нет, поскольку эта среда по сути ничем не отличается от бумажной книги, в которую постоянно добавляются новые страницы. От книги мы ведь не ожидаем, что она заговорит?
Книга - это не информация - это только кабель, соединяющий приёмник и передатчик. Количество полученной приёмником информации будет зависимость от исходных настроек приёмника и передатчика. То есть, например, у читающего могут возникнуть мысли, ассоциации, которых автор и не предполагал передать. Сознание не может возникнуть внутри матрицы микросхем, сколь угодно сложных. Обязательно должна быть ''внешняя среда'', с непредсказуемыми, но закономерными свойствами, и датчики, способные эту среду щупать. Разум без ''тела'' - невозможен. Сильно подозреваю, что реализоваться это может только на молекулярном уровне - никакие ''микротрубочки'', будучи макромолекулярными объектами, не пройдут. Ну и другие необходимые условия эволюции: самокопирование и конкуренция, которые и позволяют возникать новым структурам.
Идеалисты при анализе работы мозга ставят телегу впереди лошади: сначала сводят работу мозга к чисто логическо-алгоритмическо-машиннойдеятельности, а потом удивляетесь, почему ничего путного не получается.
Мозг сформировался в процессе эволюции для решения конкретных задач оптимального поведения, с возможностью подстройки своей структуры для конкретных земных условий. Мозг сначала вырабатывает понятия, а затем ими оперирует, а не наоборот. Логический, языковый уровень мышления - это уже формализация проделанной мозгом работы, необходимая для запоминания или передачи другим людям. Человек рождается с ещё не полностью сформированным мозгом: те отделы мозга, которые получают и обрабатывают много данных, увеличиваются в размерах и усложняют свою структуру, которые не получают - не развиваются. Реальный Маугли, увы, уже не сможет стать человеком.
Создание ИИ возможно только на основе систем, способных эволюционировать - иначе получится большой калькулятор или справочник.

Первый шаг к возникновению разума: система должна быть ''живой'' - иметь возможность сохранять целостность своей структуры при изменяющихся условиях. У организмов это обеспечивается генетической информацией. В машинной среде - программа должна иметь возможность видоизменять сама себя.
Среда, в которой действует разум, должна обладать свойством как сохранять, так и изменять свою структуру под его воздействием.

Второй шаг: создание адекватных моделей окружающей среды - модели создаются органами чувств и цепями нервных клеток (или их аналогами для машинной среды), адекватность проверяется опытом.

Третий шаг - появление сознания - возможность построения модели ''себя'' внутри модели окружающей среды.

И, наконец, собственно ''разум'' - построение модели не только ''себя'', но и моделей других и диалог между ними. Невозможно существование изолированного разума. Cо-знание - это всегда диалог. И мыслить человек может только разговаривая с реальным или воображаемым собеседником. Ежели человека полностью изолировать от внешних раздражителей - он просто уснёт, и снов видеть не будет, потому как сон - это опять же виртуальный диалог со внешним миром, упорядочивание увиденного за день.

Ни один из этих шагов невозможен без обратной связи, способной изменять структуру носителя.

Мне представляется, что для анализа необходимо разобрать все эти уровни - во многом их организация подобна.

Муравейник, кстати, ''умнее'' отдельного муравья, а толпа - ''глупее'' отдельного человека, именно потому, что первый строит свою структуру, а толпа - разрушает.

Разум - это поиск выхода из безвыходной ситуации. Как в басне про двух лягушек в кринке со сметаной - выжила та, которая дрыгалась и, сбив сметану в масло, выпрыгнула. Это даже жизни скорее определение. Вот что меня поражает в механизмах клеточной регуляции, например, - природа, всегда находит нетривиальное решение, которое лежит над плоскостью простого суммирования - всегда переход на новый уровень. Кстати, а не в этом ли причина появления искусства: что заставляет автора создавать, а зрителя смотреть. Зачем наскальные рисунки? Не для того ли, чтобы отматывать плёнку памяти назад, анализируя ход событий, найти точку бифуркации,причину вызвавшую ход событий.