Шахматные программы сами математически просчитывают ходы, или же человек заложил в компьютер комбинации?

И сами просчитывают (на основе оценочной функции) и используют (без расчета оценки) готовые базы данных для дебютов и эндшпилей. Но, в принципе, могли бы  "самообучиться" почти с нуля на основе большого массива сведений о ходе и исходе партий, а также - играя с собой, другими программами и людьми. Просто шахматы оказались достаточно простой и глубоко проанализированной игрой, чтобы не заморачиваться с самообучением. 

Шахматные программы на бытовых компьютерах и прочих гаджетах от начала и до конца написаны людьми. Программы на более мощных устройствах тоже сначала полностью писались людьми. В компютере Deep_Blue, выигравшем у Каспарова, оценочная функция (дает оценку позиции, после чего программа выбирает ход, ведущий к позиции с максимальной оценкой) в основном была реализована даже не на программном уровне, а на аппаратном (в железе, которое тоже разработали и смонтировали люди). На программном уровне аппаратная оценка только уточнялась на основе данных о партиях, сыгранных живыми гроссмейстерами. Ну и первые ходы тоже были просто прописаны в программе - без текущих расчетов оценки.

Некоторые современные шахматные компьютеры (Компьютерные_шахматы) все же используют самообучающиеся нейронные сети. В таком случае часть программы действий не написана человеком и люди не вполне понимают (даже постфактум) причины выбора того, или иного хода. Но при нынешнем быстродействии компьютеров, наличии детальных баз данных о дебютах и эндшпилях, для компьютерных шахмат вполне хватает полностью "рукотворных" программ.

А вот для того, чтобы обыграть одного из лучших игроков в го (игра, где вариантов на пару порядков больше, чем в шахматах, а позицию несравненно труднее формально оценить, чем в шахматах), без самообучающихся нейронных сетей уже обойтись не смогли. И здесь "программа" написана людьми лишь изначально, но есть и "самообучившаяся" часть, для которой люди сформулировали лишь принципы "самообучения".

AlphaGo — программа для игры в го , разработанная компанией Google DeepMind в 2015 году. AlphaGo стала первой в мире программой, которая выиграла матч без гандикапа у профессионального игрока в го на стандартной доске 19×19 [⇨], и эта победа ознаменовала собой важный прорыв в области искусственного интеллекта, так как большинство специалистов по искусственному интеллекту считало, что подобная программа не будет создана ранее 2020—2025 года[⇨]. В марте 2016 года программа выиграла со счётом 4—1 у Ли Седоля, профессионала 9 дана (высшего ранга), во время исторического матча, широко освещавшегося в прессе ...

Победу AlphaGo над Ли Седолем часто сравнивают с шахматным матчем между программой Deep Blue и Гарри Каспаровым [en]* 1997 года ...  В отличие от Deep Blue, AlphaGo — это программа, которая не привязана к конкретному аппаратному обеспечению . Кроме того, AlphaGo основана на общих принципах машинного обучения и практически не использует (в отличие от шахматных программ) ни алгоритмов, ни оценочных функций, специфичных для игры в го. При разработке AlphaGo авторы использовали только самую элементарную теорию игры в го, программа достигла высокого уровня игры, обучаясь сама на партиях профессионалов [⇨]. Таким образом, её методы машинного обучения могут быть использованы в других областях применения искусственного интеллекта. В частности, команда разработчиков планирует применить опыт, полученный при написании AlphaGo, для создания системы медицинской диагностики[⇨].

AlphaGo комбинирует технику, которая дала большой прорыв в силе программ для игры в го в 2007—2012 годах (метод Монте-Карло для поиска в дереве [en] ), и недавние успехи в области машинного обучения , а именно глубинное обучение с помощью многоуровневых нейронных сетей [⇨].

https://ru.wikipedia.org/wiki/AlphaGo