Мои поиски всё больше упираются в слово "
понимание".
Какое любопытное слово!..
На мой взгляд, необходимо основательно разобраться с ним, прежде чем пытаться формулировать что-то касательно искусственного разума и разума вообще как такового.
Что такое
понимание? Как это происходит?
Раньше я уже высказал предположение, что
понимание - это некое соответствие входящих данных и внутренней структуры.
К примеру, мы изучаем устройство некого механизма. Сперва нам не
понятно, как он работает, но разобравшись, мы начинаем
понимать. Но почему мы начали
понимать? Мы нарисовали в своём сознании все детали этого механизма, увидели их связи. Мы создали структуру механизма в своём разуме. И теперь, сравнивая эту структуру с входящими данными, нам будет
понятно, почему механизм ведёт себя в этом случае именно так, а не иначе.
Но тут есть ещё один момент.
Один человек разберётся в устройстве этого механизма до основания, до мельчайших составляющих, а другой лишь поверхностно взглянет на него. Мы не можем однозначно сказать, что у одного из них есть
понимание, а у другого - нет. Оба из них имеют некоторое
понимание этого механизма. Но оно у них разное. Можно сказать, что у одного из них оно более глубокое и детальное, а у другого - поверхностное.
Получается,
понимание может быть как неизмеримо глубоким, так и предельно примитивным (я знаю, что эта штуковина ездит, и хватит!

)
Удивительно, но
понимание и
непонимание находятся очень близко! Достаточно начать "копать" в любом месте, которое мы считаем
понятным, и мы найдём там
непонятное. А если продолжить расскопки, то и вовсе выясняется, что наше
понимание иллюзорно и относительно. Почему мы этого не замечаем? Потому что основное состояние разума - это замкнутость на том, что он
понимает. Всё что
непонятно, мы вытесняем за поле зрения, фиксируясь на
понятном. Похоже, что это одно из проявлений Алгоритма разума...
Я вынужден признать, что
понимание - это лишь структура в нашем разуме, а всё
понятное - это те входящие данные, которые описаны этой структурой. При этом, как уже говорилось, структура эта может быть как предельно простой, так и бесконечно разветвлённой. Процесс в обоих случаях в основе один и тот же. В противоположность этому,
непонятное - это те входящие данные, которые не вкладываются в уже созданные структуры разума (в наши
понятия 
), а также те данные, для описания которых мы вообще не можем создать структуру.
Отсюда можно сделать вывод, что
понимание - чисто механический процесс. И тогда не должно возникнуть никаких проблем в его искусственном моделировании. Но всё не так уж и просто...
Возвращаясь к примеру с человеком в комнате, мы видим что, исходя из вышеприведённых выводов, он обладает некоторым пониманием имеющихся иероглифов. А именно - он знает их начертание и даже некоторые правила сочетаний. Но бесспорно это понимание более, чем примитивно. Первое мнение, которое возникает, говорит нам - он не имеет шанса расширить это понимание, оставаясь в рамках этого эксперимента. Если, конечно, этот человек не является гением и не догадается о смысле иероглифов по их форме и сочетанию. Что в принципе возможно, исходя из того, что их придумали люди, описывающие реальность, схожую с реальностью человека в комнате. Но насколько это возможно и сколько на это потребуется времени - другой вопрос.
Но возможен и другой вариант событий. Представим, что человек в комнате - заключённый, и у него предостаточно времени, чтобы посвятить его игре с иероглифами, которые присылают ему из внешнего мира и которые он отсылает в качестве ответов. Вполне реально, что он сможет значительно расширить свой набор комбинаций иероглифов и даже их разновидности. Это возможность увеличивается, если люди снаружи будут не тестировать его, а
обучать. Безусловно, что его
понимание будет на абстрактном уровне. Вариант гения, который расскусил смысл иероглифов мы исключили, хотя эта возможность всё больше возрастает с ростом усвоенных структур. Вполне возможно, что в какой то момент игры (в какой-то год заключения

) у человека в комнате произойдёт прорыв и он...
поймёт. И когда это произойдёт, то люди снаружи сразу
увидят это. И твоё заключение закончится. Но пока ты не
понял, то можешь относится к этому взаимодействию просто как к игре...
До сих пор речь шла о самом процессе
понимания. А теперь попробуем
увидеть намёк, скрывающийся в этом примере с иероглифами и человеком в комнате. А этот намёк, на мой взгляд, очень прост. До сих пор я говорил о самом процессе
понимания, но ни слова не сказал о
том, кто понимает.
Мы не слова не говорили о том,
кем является человек в комнате...
Но это - уже другая тема.