Здравствуйте, Владимир.
Можно сказать, что человеческий интеллект подразделяется на область ощущений и восприятия, рассудок и разум. Эта конструкция человеческой психики, идущая из древности, в четком виде была очерчена Иммануилом Кантом. Конечно, здесь много недостатков, но эта схема нам позволит немного осознать, что может и чего не может ЭВМ.
Ощущения и восприятие компьютера - это его устройства ввода информации. Речь и действия человека находят аналогию в его устройствах вывода.
ЭВМ обладает памятью и процессором. Человек также обладает памятью и мышлением. У человека все эти функции интеллекта так взаимосвязаны, что их трудно разделить. Когда кто-нибудь пишет систему искусственного интеллекта, он также попадает в ситуацию, когда трудно четко обозначить части системы, все взаимосвязано.
Нас сейчас прежде всего интересовать будут две качественнно различные стороны или, лучше сказать, уровни мышления. Это рассудок и разум.
С точки зрения Иммануила Канта рассудок выполняет всю техническую работу и непосредствено связан с восприятием и речью. А вот разум более свободен. Он способен ставить задачи рассудку и контролировать их выполнение.
Эта идея дальше расширялась у Гегеля и у марксистов. Если мы понимаем логику, как некоторый понятийный стержень, по которому описывается работа интеллекта, то деление логики на формальную и диалектическую приблизительно соответствует роли рассудка и, соответственно, разума.
То есть рассудок - это формальный ум, а разум - диалектический.
Формальная логика хорошо изучена, математизирована, по ней построены модели рассчетов и поведения. Именно на ней и строится работа ЭВМ.
С другой стороны, диалектическая логика покрыта мраком. То, что говорит о ней Кант, что думает Гегель, о чем пишут марксисты, - все это не только различно, но и мало понятно. Не совсем ясно, как работает разум. Но понятно, что это творческая часть ума. Именно разум придумывает решение сложных проблем, а рассудок применяет готовые решения в типовых ситуациях.
Часто приходится видеть людей малотворческих, мыслящих лишь формально, "как компьютеры". Имено так. Компьютер может мыслить лишь формально, по готовым схемам. И, если есть на свете логика (формальная) второго порядка, то есть готовые схемы изобретения новых решений, то тут рассудок сам восходит на второй порядок и чем-то напоминаеит разум, изобретает решения. Но все равно во многом он остается формальным.
И все же что-то мало я таких алгоритмов видел. Я знаю одно: написать програму искусственного интеллекта, напоминающего человеческий интеллект, очень сложно. А почему? Да потому, что трудно запрограммировать творческий процесс. Изобразить рассудок несложно. Все обычные программы, которые мы знаем, являются формально логическими, то есть рассудочными, и со своими задачами они неплохо справляются.
А вот как научить машину думать в нестандартных ситуациях? Как заложить разум в ЭВМ? Надо формализовать диалектическую логику, по которой он работает и построить на ней программы. Но тем-то и отличается диалектическая логика от формальной, что она плохо поддается формализации. Мы, строго говоря, вообще плохо знаем диалектическую логику. К тому же разные философы ее определяют по-разному. Да и как формализовать процесс творчества? Многим ох как хотелось бы этого, да не очень получается.
Вот, видимо, это и есть та область интеллекта, которая или принципиально недоступна ЭВМ, или доступна очень ограниченно. Те системы искусственного интеллекта, которые мы сегодня имеем, решают очень узкий класс задач и их самообучаемость (признак диалектической логики), очень слаба. И не удивительно. Потому что здесь много разных понятий сочетается, а мы элементарные задачи еле решаем (вспомним хоть алгебру, дошли до уравнений четвертой степени, и все, дальше нет хода в режиме формул, только диалектика поиска).
Итак, машина может мыслить формально, но почти не может или вообще не может мыслить диалектически (творчески, если хотите).