Всем сторонникам идеализма советую расслабиться и выпить водки. И понять, что сознание, мышление и душа - это аспекты системы нейронных связей, а не какие-то сущности "не от мира сего". Отсюда проистекает простой важный принцип определения разумности, человечности и "живости". Любые попытки привлечь сюда сверхъестественные "сущности", любой иррационализм так или иначе приводят к негативу, к спорам типа "есть ли у *** душа". Как будто "душа" это что-то внешнее по отношению к миру. Такие суеверия - это инструмент для манипуляции толпами, прежде всего.

Ну, а другая крайность - фетишизация носителя, типа если эмулировать структуру на другой материальной базе, то она функционировать не будет. Будет, в любом случае, но надо разобраться, каким образом. В нормальном организме разные "кластеры" - зрительные, слуховые, тепловые и т.д. - получают постоянный поток инфы и либо выдают ее вовне, либо пускают по второму кругу. Если поместить человека в условия максимальной изоляции чувств, он впадет в состояние, близкое ко сну, а при длительном пребывании в нем может и чокнуться. Тот процесс, который эмулировали в сабже, происходил подобным образом. А вот если бы сэмулированной мышке подвели какое-то "зрение", она заметила бы, что все вокруг ускорилось в 10 раз. Но если эксперимент длился всего 10 секунд, она толком не успела бы и подумать об этом.

При проведении в будущем эксперименты с объемом вычислений, аналогичным человеческому мозгу, это создает серьезную этическую проблему. Проще всего закрыть глаза и отказать нейросетевым системам в праве на жизнь и/или разум. Но кем будем ли мы после этого, как не закрывающими глаза на мир самодовольными бюргерами времен фашизма, или белыми рабовладельцами, учившими своих детей, что у негров и так, типа, нет души? С другой стороны, кто-то может поднять истерику насчет недопустимости подобных экспериментов вообще. Это тоже бред. Мозг имеет определенную структуру, общие для всех человеческих (и не только) существ особенности строения (на уровне групп нейронов и синапсов как элементарных единиц, а не чего-то более мелкого). Кроме того, мышление, сознание и все психические процессы протекают во времени, в движении. Нет движения - нет ничего.

Итак, предположим, у нас есть эмулирующая мозг живого существа сетевая структура. Задача: выработать технические правила работы с ней в этических рамках, то есть критерии, придерживаясь которых мы гарантированно сможем исключить страдания эмулируемого существа, болевые и прочие подобные эффекты. При эмуляции существа разумного необходимо будет также исключить или свести к минимуму и психический негатив. Обо всем этом лучше думать сейчас, пока еще нет реальных постоянных моделей. Мышки в реальных экспериментах настрадались больше и дольше, но к ИИ мы должны подойти с надежным фундаментом.

И вот здесь "бездушная" материалистическая аксиома ("все в голове") не просто конструктивна - поможет однозначно указать безопасное поле действий, в то время как вся остальная метафизика забивает на это болт - а с моральной точки зрения оказывается выше равнодушной замкнутой на себя метафизики.

Первый ориентир - реакция мозга (например мыши) на боль, анализ его состояния до, во время и после раздражения, в частности структурного состояния. Это может быть изменение скорости, интенсивности (веса), маршрутов передачи информации в определенных кластерах, режимов генерации синапсов, в общем любые характерные особенности.

Далее, предположим, произошел негатив такого плана, что существо слабо или сильно "тронулось", разлад рефлексов, медленная деградация. Как экологически разрешить этот процесс? Обычное животное, например критически травмированное, стараются как можно быстрее убить или усыпить. Вариант номер ноль - остановить весь процесс. Мгновенная смерть. Есть варианты и получше - полный дамп процесса, включая лог входных интерфейсов за время, превышающее период действия кратковременной памяти, и тогда уже остановка. Это чтобы после восстановления крыша не съехала от шока. Восстановление элементарно из дампа, для адаптации сначала прокручивать зацикленные входные данные, постепенно подмешивая в них актуал. Как во французском фильме про замороженного:).

Ну и затем уже такие "мелочи", как негатив из-за изоляции, замедления процесса и соответственно "ускорения времени", хаос на входе, как если бы реальной мыши включали зрительный, звуковой и тепловой "калейдоскоп". Разумное же существо может вообще обнаружить подставу по косвенным признакам, как в "Матрице". Это вообще нежелательно - представьте, что вы на самом деле в матрице, все вокруг вас нереально или эмулировано с грубым приближением, а по ту сторону находится чел, который может незаметно менять содержимое вашей ЦНС, устроить вам день сурка или вовсе нажать на красную кнопку, а потом вы очнетесь может через час, а может через 100 лет, как в голову взбредет.

Поэтому для решения таких вопросов должна быть разработана "клятва Гиппократа 2.0", как в медицине, где первая версия доказала свою конструктивность и этичность одновременно. Она должна охватывать и вопросы взаимодействия с эмулированными, учета их потребностей, желаний и прав, критерии разумности с запасом. Сегодня подобные вопросы встают в случае с абортами или эвтаназией. Очевидно, что простые решения типа запрета лишь загоняют проблему в тупик и в тень. Нужен целостный и взвешенный подход.