Знаете же про "Китайскую комнату"? В окошко подают листки с иероглифами, внутри сидит человек, который не знает китайского, просто смотрит на инструкию. Если входящий иероглиф такой-то, то в выходное окно нужно отправить вот такой-то. В результате получается, будто Китайская комната знает китайский, хотя её оператор не знает.
И работу всяких алгоритмов из области ИИ сравнивают с этой Китайской комнатой, мол, машина не разумна, но действует по инструкции, которая создаёт видимость разумного поведения.
Я пытаюсь писать код с помощью чат-бота you.com. И это действительно очень напоминает Китайскую комнату. Я пишу ему, какую ошибку выдало, он даёт мне новый вариант кода, я его копирую и вставляю. Только в этом случае, Китайская комната, это я.