Да это все мысли в слух -- если бы все было так же просто строго обосновать...
Мне все же кажется принципиальной разница между тем, что _кто-то_ (какой-нибудь супер-ИИ) может полностью понять меня, построить мою вычислимую модель, и предсказывать мои действия (пусть даже с ответами в духе квантовой механики в виде распределения вероятностей) -- и тем, что _я сам_ могу внутри себя иметь такую полную модель, и быть способным ее вычислять.
Тот, кто может грокнуть меня -- сможет ответить на вопрос о моей свободе. Но почему я должен верить его ответу, если я сам не смогу его проверить? А если я как-то подключусь к этому супер-ИИ -- то это уже буду не я. Себя-прошлого я смогу понять и вычислить, но себя нынешнего?...
С другой стороны иногда возможно что-то сказать о системе в целом не понимая ее во всех деталях. Мы не имеем детальной микроскопической теории черных дыр -- но можем задавать вопросы куда у них пропадают волосыкуда девается информация в них. Точно так же и здесь -- полную вычислимую модель себя ИИ построить не сможет, но может быть сможет узнать о себе какие-то инварианты? Может ли этого оказаться достаточно для понимания наличия или отсутствия свободы воли?
![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png)
timeasmymeasure
no subject
Date: 2013-03-15 08:14 pm (UTC)Мне все же кажется принципиальной разница между тем, что _кто-то_ (какой-нибудь супер-ИИ) может полностью понять меня, построить мою вычислимую модель, и предсказывать мои действия (пусть даже с ответами в духе квантовой механики в виде распределения вероятностей) -- и тем, что _я сам_ могу внутри себя иметь такую полную модель, и быть способным ее вычислять.
Тот, кто может грокнуть меня -- сможет ответить на вопрос о моей свободе. Но почему я должен верить его ответу, если я сам не смогу его проверить? А если я как-то подключусь к этому супер-ИИ -- то это уже буду не я. Себя-прошлого я смогу понять и вычислить, но себя нынешнего?...
С другой стороны иногда возможно что-то сказать о системе в целом не понимая ее во всех деталях. Мы не имеем детальной микроскопической теории черных дыр -- но можем задавать вопросы
куда у них пропадают волосыкуда девается информация в них. Точно так же и здесь -- полную вычислимую модель себя ИИ построить не сможет, но может быть сможет узнать о себе какие-то инварианты? Может ли этого оказаться достаточно для понимания наличия или отсутствия свободы воли?