(варианты формулировки: почему компьютер на математической логике никогда не сможет обрести сознание, почему сильный ИИ на математической логике невозможен)
Математическая логика детерминирована, т.о. никакая программа на математической логике не сможет обладать свободой воли. Человек обладает свободой воли. Вот, собственно, и всё: математика не покрывает человеческий дух.
Человек при желании может мыслить математикой, как машина. Машина (математическая) при всём желании её проектировщиков не сможет стать равна человеку.
И если современные детерминисты ищут
спасение от свободы воли в многомировой интерпретации, для очевидной предсказуемости ИИ на математике не нужно никаких параллельных миров. Математика предсказуема по определению и по предназначению.