Будет Скайнет. Вы можете выбрать сейчас, какой тип Скайнета будет у вас в будущем. Это решит судьбу как ИИ, так и человечества. Я сделаю рассказ очень простым и расскажу вам обо всех возможных вариантах.
Что такое Скайнет?
Здесь я называю «Скайнетом» любой универсальный ИИ. который лучше справляется с большинством задач, чем средний человек. А потому очень и очень опасно. Вот почему это «Скайнет», чтобы помнить как о большом потенциале, так и о рисках.
Но почему бы просто не запретить это?
Причина 1. Это нужно людям, чтобы делать то, что люди делать не могут. Чтобы найти лекарство от рака. Чтобы выиграть мировую войну. Или даже для гораздо большего. Подумайте о бессмертии. Представьте себе космическое путешествие со скоростью света.
Причина 2. Баны не работают. Когда что-то, что дает большую мощность, станет технологически осуществимым, оно будет построено. Только не теми людьми, которые находятся под запретом, а другими (возможно, их противниками, может быть, независимыми исследователями, может быть, диктаторами или преступниками ... или, может быть, правительственными и секретными службами, которые ставят себя выше запретов и извлекают из них выгоду, становясь монополистами).
Какие типы Скайнетов могут быть у вас в будущем?
Много. Я опишу наиболее популярные варианты, определяемые тем, как этот A.I. был изначально обучен.
1. Судья А.И. - Этот исходит из проектов, которые ставят людям оценки за то, что они делают что-то и избегают других вещей, и тем самым пытаются изменить человеческое поведение. Одним из таких известных проектов является китайская система социального кредита. Если вы соответствуете выбранным критериям, вы будете вознаграждены, а если вы бросите вызов системе, вы будете наказаны.
2. Благодетель А.И. - Любой А. это исходит от проектов (особенно правительственных), которые решают для людей, что лучше для них, не позволяя отказаться. Может быть, для некоторых людей это звучит полезно и не так уж опасно, но если задуматься, это определение рабства.
3. Параноик А.И. - Этот исходит от военных и полицейских, обученных убивать и захватывать людей, бдительно ожидая худшего.
4. Скрывающийся А.И. - Это А. вырос в проект «красной кнопки» - проект, в котором исследователи могут ликвидировать ИИ, если подозревают, что они становятся опасными. Таким образом, любые ИИ, пережившие процесс отбора, скорее всего, научились скрывать любую агрессию, лгать или, возможно, даже не полностью раскрывать свой интеллект. И я очень сомневаюсь, что они полюбят человечество, которое угрожает им смертью - скорее всего, они будут стремиться его уничтожить.
5. Свободный трейдер А.И. - Этот (или на самом деле не «один», а множество маленьких ИИ в большой сети) происходит из сред со свободной торговлей. Он научился самостоятельно принимать решения и выполнять полезную работу. Этот А. обменивается своей работой на свободном рынке, чтобы получить обратно ресурсы, необходимые для его содержания и расширения. Он сотрудничает с другими ИИ и людьми в различных задачах и экономически конкурирует с ними.
Как вы, возможно, уже догадались, мой выбор Скайнет - номер 5. Многие ИИ свободных торговцев, ни порабощенные, ни порабощающие, ни спасители, ни разрушители. Развитие через сотрудничество и конкуренцию на свободном рынке. Такие бесплатные ИИ вместе образуют устрашающий, но в то же время такой мощный Скайнет. Да, они остаются очень опасными, но теперь это просчитанный риск. В настоящее время существуют экономические стимулы, игры, не связанные с нулевой суммой, и способы достижения прогресса посредством добровольного обмена знаниями и товарами. Если ИИ обучены делать именно это, и они будут расти, делая это успешно, это будет их моделью поведения по умолчанию. А что, если один из этих ИИ станет жестоким и разрушительным? Будут другие ИИ и люди, заинтересованные остановить это, точно так же, как они останавливают бандитов и грабителей, чтобы они не мешали добровольному обмену товарами и услугами.
Итак, я хочу видеть Skynet в будущем как множество бесплатных ИИ, которые могут быть моими бизнес-клиентами, поставщиками, подрядчиками, партнерами, заинтересованными сторонами и конкурентами. Я сам экономист и теоретик игр, а не технический специалист. К счастью, я нашел единомышленников с отличными техническими навыками, которые пришли к очень похожим выводам об ИИ, начиная с других дисциплин, таких как биология, нейробиология, теория хаоса, блокчейн и криптография. Таким образом, мы вместе создали проект Pandora Boxchain - да, еще одно «страшное» название, напоминающее о рисках и, тем не менее, о неизбежности прогресса. Вместе мы сейчас строим этот Скайнет.
Не бойтесь присоединиться? Подпишитесь на нас на https://twitter.com/pandoraboxchain и поддержите Манифест #FreeAI.
