Следует начать с того, что рабство и принудительный труд - это все-таки очень разные вещи, которые вот просто так в одном предложении смешивать неправильно. Кроме того, рабство тоже бывает разным, сложно сравнить рабство в Древнем Египте в период Среднего царства с рабством в Древнем Риме, не говоря уже о рабстве в южных штатах США. Так что необходимо разбираться в каждом конкретном случае.
Сам по себе рабский труд не является ни эффективным, ни неэффективным. Таковым его делает очень много сопутствующих условий. Возьмем, к примеру, Древний Египет. Изначально, когда количество рабов было невелико, рабский труд по степени эффективности не отличался от труда свободных общинников, да и сами рабы были скорее на положении младших детей, нежели "говорящих орудий". По мере роста количества рабов эффективность их труда повысилась - стало возможным обрабатывать большие территории, возводить больше ирригационных сооружений. Но в дальнейшем происходит снижение эффективности рабского труда по причине того, что число рабов растет, растет аппарат контроля над ними, а в рамках экстенсивного пути развития был достигнут предел, то есть увеличить производство уже невозможно за счет наращивания объемов. Если бы в этот момент появились новые технологии или удалось бы захватить новые территории - рабский труд продолжил бы быть эффективным.
Похожая ситуация была и в Древнем Риме - пока росла площадь государства при одновременном увеличении числа рабов, их труд был эффективным. Когда наступила пора утрат, то затраты на аппарат контроля превысили экономический эффект.
По поводу эффективности рабского труда в южных штатах США до сих пор ведутся споры, работы в рамках клиометрии показывают, что ситуация тут не такая уж однозначная. В определенных условиях рабский труд был вполне эффективен, поэтому нельзя сказать, что экономика Юга исчерпала сама себя.
Ну и, наконец, про принудительный труд в системе лагерей в СССР. Долгое время вопрос его эффективности вообще не изучался, только относительно недавно стали появляться работы на эту тему. В этой связи интересна статья Дэна Хили "Наследие ГУЛАГа: принудительный труд советской эпохи как внутренняя колонизация". Есть еще коллективная монография "ГУЛАГ: Экономика принудительного труда", в которой этот аспект разобран довольно подробно. В целом можно сказать, что на раннем этапе (1920-1930-е годы) принудительный труд в лагерях показывал высокую эффективность за счет возможности практически неограниченной его мобилизации. Именно благодаря ему была построена значительная часть инфраструктуры, которая в дальнейшем уже использовалась не заключенными. Но уже в 1940-1950-е годы эффективность ГУЛАГовской экономики падает, в первую очередь за счет того, что она требует слишком больших затрат на контроль. Так что мы опять приходим к тому, что эффективность принудительного труда связана не с фактом принуждения, а со значительным числом внешних факторов.