Ако ще дойдете при мен, най-добре се оправдайте, или аз ще шамарам слабия ви спор като котка, която играе с топка.

Първо, прочетох го.

Второ, забравих повече академични документи за AI, отколкото ще ги прочетете през целия си живот.

Трето, апелирате към неподходящ орган, който написа книга за поп философия. Наслаждавах се на това като моята научна фантастика и това е всичко. Не идвайте при мен с вашите логически заблуди.

Четвърто, ако четете хора, които всъщност работят върху ИИ, ще знаете, че AI не работи нищо подобно на това, което описва, а Bostrom прави проучване за това, което хората смятат, че не е научен анализ. Това е шега. Дори откачените момчета, които са работили за Мъск в OpenAI, които не купуват свръх разузнаването, ще ни убият всички спорове.

Ето какво реално изследователите на ИИ трябваше да кажат за Bostrom и въпроса кога идва свръх разузнаването:

https://www.technologyreview.com/s/602410/no-the-experts-dont-think-superintelligent-ai-is-a-threat-to-humanity/

"" Път, начин, начин повече от 25 години. Векове най-вероятно. Но не никога. "

„Състезаваме се с еволюцията на човешкия мозък милиони години. Можем да пишем програми с една цел, които могат да се конкурират с хората и понякога да се отличават, но светът не е добре разпределен в еднопроблемните въпроси. "

„Ник Бостром е професионален плашител. Ролята на неговия Институт е да намира екзистенциални заплахи за човечеството. Той ги вижда навсякъде.

Хората мечтаят за екзистенциални заплахи, откакто изпълзяхме от блатото. Първо беше гръм. Тогава Бог на дъжда се ядоса на нас, ако не танцувахме, ако полето или жертва коза в точното време. Тогава бяха напукани черупки от костенурки, които казват на императора, че ще се случи нещо лошо. Тогава това беше индустриализация. Обичаме големи плачевни заплахи. Сега имаме супер-AI.

Ако искате да напишете популярна книга, просто изберете всяка екзистенциална заплаха, която харесвате, било то извънземни, метеори, Бог да е луд по нас или свръх интелигентен ИИ и можете да го продадете на милион идиоти. Но не можете да продадете тези глупости тук и да говорите като академични изследвания. Не е. Това е култ на съдния ден. И не е ново, независимо как го обличате в псевдонаучни изследвания и език, специфичен за домейна, който ви кара да се чувствате по-интелигентни, отколкото сте. Това е една крачка нагоре от Портата на Небето.

Ние сме създатели на страха и ако искате да продадете страх, винаги ще намерите купувачи. Има причина Стивън Кинг да е един от най-големите писатели в света.

Пето, как предлагате да решите несъществуващия проблем? Законодателство? Сигурен съм, че Китай ще се погрижи за този закон и няма да продължи да го следва. Сигурен съм, че и суперинтелигентните ИИ ще се грижат, ако се появят на сцената.

Шесто, докато се притеснявате от далечни екзистенциални заплахи, които не са реални, ние имаме истински ИИ, които вкарват хората в затвора, решават дали ще получите заем или не и шофирате автомобили. Време е да се притесняваме за истинските проблеми, с които можем да се справим сега, вместо за фантастични проблеми, които нямат решения и просто се хранят със страха.