| Элиезер Юдковский - Рациональность 14 - часть |
| 1 | Вы можете получить массу удовольствия, общаясь с людьми, чьи ожидания будущего теряют связь с их же верой в убеждения. Как-то на одном званом обеде я пытался объяснить человеку, чем я зарабатываю на жизнь; и он сказал: «Я не верю в возможность искусственного интеллекта, ведь лишь Бог может создать душу». Я, должно быть, движимый божественным наитием, немедленно ответил: — То есть, если я смогу создать искусственный интеллект, то это докажет ложность вашей религии? |
| 2 | — Что? — сказал он. — Ну, если ваша религия предсказывает, что я неспособен создать искусственный интеллект, то факт создания мной искусственного интеллекта будет означать неправоту вашей религии. Либо ваша религия допускает возможность создания ИИ, либо его создание опровергнет вашу религию. Повисла пауза — он осознал, что только что сделал свою гипотезу фальсифицируемой — и затем он ответил: — Ну, я не имел ввиду, что вы не сможете создать интеллект. |
| 3 | Я хотел сказать, что он не может испытывать эмоции таким же образом, что и мы. — Итак, если я создам искусственный интеллект, в который не будет заложено ничего навроде заранее написанного сценария, и моё творение начнёт говорить о чём-то, похожем на нашу духовную жизнь, то тогда ваша религия неверна. — Ну, гм, видимо нам придётся остаться при своих мнениях на этот счёт. «Согласиться не соглашаться» — в таких случаях говорят англичане. |
| 4 | — На самом деле, так нельзя. Есть теорема из области рациональности — теорема Ауманна о согласии — которая говорит о том, что два рационалиста не могут согласиться не соглашаться. Если два человека не соглашаются друг с другом, то хотя бы один из них должен быть в чем-то неправ. Мы коротко прошлись по этой теме. И, наконец, он сказал: — Ну, кажется, на самом деле я пытался сказать вот что: я считаю, что вы не можете создать что-то вечное. |
| 5 | — Ну, я тоже так считаю!— ответил я. — Я рад, что мы смогли прийти к консенсусу по этому вопросу, как и требует теорема Ауманна о согласии. Я протянул свою руку и он пожал ее, а потом побрёл дальше. Женщина, которая стояла рядом и слушала наш разговор, серьёзно посмотрев на меня, сказала: «Это было прекрасно». — Большое спасибо, — ответил я. |
Комментарии