Останній прогноз Маска: штучний інтелект може перевершити людський інтелект у 2030 році та «знищити» людей у ​​майбутньому (1/2)

Джерело: Tencent Technology News 2024-04-04 08:55

Ключові моменти:

① Маск прогнозує, що штучний інтелект може перевершити рівень людського інтелекту до 2030 року і навіть знищити людей.

② Маск розповів про фактори, які стримують розвиток ШІ. Минулого року постачання чіпів ШІ було обмеженим, а цього року понижуючий трансформатор стане вузьким місцем.

③ Щодо того, коли люди зможуть висадитися на Місяць, Маск прогнозує, що за допомогою Starship це займе лише три роки найшвидше.

Tencent Technology News, 4 квітня. Згідно з повідомленнями іноземних ЗМІ, Ілон Маск, генеральний директор Tesla та SpaceX, нещодавно мав онлайн-розмову з Пітером Діамандісом, засновником Singularity University та XPRIZE Foundation, на Abundance Summit. Саміт був організований Університетом Singularity Кремнієвої долини, який надає бізнес-лідерам консультації з передових технологій. Фундація XPRIZE підтримує технологічні інновації за допомогою наукових конкурсів, деякі з яких фінансуються Маском. 4 квітня. За повідомленнями іноземних ЗМІ, Ілон Маск, генеральний директор Tesla та SpaceX, нещодавно мав онлайн-розмову з Пітером Діамандісом, засновником Singularity. Університет і фонд XPRIZE на саміті достатку. Саміт був організований Університетом Singularity Кремнієвої долини, який надає бізнес-лідерам консультації з передових технологій. Фундація XPRIZE підтримує технологічні інновації через наукові конкурси, деякі з яких фінансуються Маском.

Обговорюючи швидкість розвитку штучного інтелекту, Маск передбачив, що, виходячи з нинішніх темпів технологічного прогресу, штучний інтелект може перевершити людський інтелект до 2030 року, і ця технологія може навіть знищити людство. Однак він не дивився на майбутнє песимістично, а підкреслив, що завдяки позитивному керівництву штучний інтелект має потенціал принести краще майбутнє для людства.

Маск зазначив, що появу суперінтелекту називають «сингулярністю» саме через її непередбачувані наслідки, включаючи ризик потенційної загибелі людства. Він погодився з точкою зору «хрещеного батька штучного інтелекту» Джеффрі Хінтона і вважав, що ймовірність такого ризику становить приблизно від 10% до 20%.

Незважаючи на визнання потенційних ризиків перевищення штучним інтелектом людського інтелекту, Маск все ж підкреслив, що можливість позитивних результатів переважує негативні наслідки. Він зокрема згадав книгу Діамандіса 2014 року «Достаток: майбутнє краще, ніж ви думаєте», яка зображує оптимістичне майбутнє, кероване штучним інтелектом і роботами, де вартість товарів і послуг значно впала. Крім того, він назвав серіал «Культура» шотландського письменника-фантаста Йена М. Бенкса як найкращий сценарій для напівутопічного майбутнього штучного інтелекту.

Маск порівняв розвиток штучного інтелекту та загального штучного інтелекту (AGI) із вихованням дитини, сподіваючись, що це матиме більш позитивний вплив на людство. Він наголосив на важливості культивування штучного інтелекту, який справді розуміє етику та мораль, порівнявши це з класичним фільмом Стенлі Кубрика 1968 року «2001: Космічна одіссея».

Маск зазначив, що найважливішим аспектом безпеки штучного інтелекту є забезпечення його максимального пошуку правди та цікавості. Він вважає, що ключ до досягнення максимальної безпеки штучного інтелекту полягає в тому, щоб уникнути примушування його брехати, навіть перед лицем неприємної правди. Як приклад він використав сюжет із фільму «2001: Космічна одіссея», де штучний інтелект був змушений збрехати, що призвело до загибелі екіпажу, щоб підкреслити, що штучний інтелект не можна змушувати робити щось, що порушує аксіоми.

Маск також згадав фактори, які можуть обмежити розвиток штучного інтелекту, такі як обмежені пропозиції чіпів штучного інтелекту, які з’явилися минулого року, і зростаючий попит на понижувальні трансформатори в побутовому та комерційному обладнанні. Він зазначив, що ці виклики є справді актуальними проблемами, які потребують вирішення.

Під час обговорення обидві сторони також обговорили концепцію інтеграції неокортексу людського мозку з хмарою. Незважаючи на те, що Маск вважає, що мета завантажувати людську свідомість і пам’ять у хмару ще далека, він високо оцінив свій стартап з інтерфейсу мозок-комп’ютер, Neuralink, і його першого пацієнта-людину, якому зробили трансплантацію. Цей пацієнт із тетраплегією успішно продемонстрував результати випробування, схваленого FDA, контролюючи екран, граючи у відеоігри, завантажуючи програмне забезпечення та досягаючи функцій, подібних до операцій миші за допомогою мозкових імплантатів. Маск заявив, що Neuralink плавно просувається і поступово рухається до мети повноцінного інтерфейсу.

Нижче наведено повний текст діалогу між Маском і Діамандісом:

1. Сила та небезпека суперінтелекту

Діамандіс: Вітаємо з видатними досягненнями в різних сферах. Ви активно пропагували у світі концепцію цифрового суперінтелекту – це найбільша надія людства чи наш найглибший страх? Чи можете ви витратити кілька хвилин на обговорення цього питання?

Маск: Як відомо, суперінтелект можна назвати «сингулярністю». Популяризація цього терміну невіддільна від зусиль таких інституцій, як Singularity Institute. Поява суперінтелекту та його наступний вплив дійсно важко передбачити. Особисто я вважаю, що справді існує ймовірність того, що це може покінчити з людством. Як я вже говорив раніше, я міг би погодитися з думкою Джеффрі Хінтона про те, що ймовірність того, що суперінтелект може знищити людство, становить 10% або 20%. Проте я схильний вважати, що ймовірність позитивного сценарію вища, ніж негативного, хоча нам важко робити точні прогнози. Але оскільки ви підкреслили концепцію «достатку» у своїй книзі, я вважаю, що найімовірніше майбутнє, до якого ми прямуємо, — це майбутнє, повне достатку.

Діамандіс: Ваша точка зору дуже захоплююча. Пам’ятаю, ви якось сказали, що розвиток загального штучного інтелекту та гуманоїдних роботів приведе нас до достатку.

Маск: Так, я сподіваюся, що наше майбутнє може бути таким, як те, що зображене в серії книг Іена Бенкса «Культура». Я вважаю, що це найкраща концепція напівутопічного суспільства штучного інтелекту. Поява суперінтелекту неминуча і може відбутися незабаром. Отже, що нам справді потрібно зробити, це направити його в позитивне русло та максимізувати його переваги.

Я вважаю, що те, як ми розвиваємо штучний інтелект, має вирішальне значення. Певною мірою ми ніби розвиваємо форму життя із загальним інтелектом, що майже як виховання дитини, але ця дитина має надзвичайну мудрість і талант. Те, як ми виховуємо дітей, є важливим, і так само для безпеки штучного інтелекту вкрай важливо мати штучний інтелект, який шукає правду та сповнений цікавості. Я глибоко розмірковував про безпеку штучного інтелекту і дійшов висновку, що найкращий спосіб досягти безпеки штучного інтелекту — це ретельно його розвивати.

Що стосується базових моделей і тонкого налаштування, ми повинні забезпечити чесність штучного інтелекту. Ми не можемо змусити його брехати, навіть якщо правда може бути неприємною. Фактично, один із основних сюжетів у «Космічній одіссеї 2001» полягає в тому, що коли штучний інтелект змушений брехати, все стає хаотичним. Штучному інтелекту заборонено повідомляти екіпажу про таємничий пам'ятник, який вони побачать, але він зобов'язаний привести їх туди. В результаті штучний інтелект приходить до висновку, що найкраще вбити екіпаж і віднести їхні тіла до пам'ятника. Урок глибокий: ми не повинні змушувати штучний інтелект брехати або робити щось аксіоматично несумісне, наприклад робити дві фактично суперечливі речі одночасно.

Тому ми досягаємо цієї мети через такі проекти, як xAI і Grok. Ми прагнемо до максимально чесного штучного інтелекту, навіть якщо його мова може не відповідати певним політкоректним стандартам.

2. Майбутнє штучного інтелекту

Діамандіс: Вчора я відвідав захід із Реєм Курцвейлом (засновником Університету Singularity та пророком технологій), Джеффрі Гінтоном, Еріком Шмідтом (колишнім президентом Google) та іншими гостями. Я помітив ваш твіт про Курцвейла, і його 预见 для технологій майбутнього досить перспективний. Курцвейл передбачив, що в найближчому майбутньому ми матимемо загальний штучний інтелект, а штучний інтелект, еквівалентний людському, з’явиться у 2029 році. Така швидкість шокує. Цікаво, що ви про це думаєте?

Маск: Я дуже поважаю прогнози Курцвейла. Насправді, я думаю, що його прогнози можуть бути навіть трохи консервативними. Спостерігаючи за поточною обчислювальною потужністю та талантом, вкладеним у сферу штучного інтелекту, а також за швидким зростанням обчислювальної потужності, ми можемо виявити, що швидкість розвитку штучного інтелекту зростає з дивовижною швидкістю в 10 разів. Здається, виділена обчислювальна потужність штучного інтелекту зростає в 10 разів кожні 6 місяців, що майже означає збільшення принаймні в 100 разів на рік. Ця тенденція зростання продовжить зростати в наступні кілька років.

Варто зазначити, що багато центрів обробки даних, навіть більшість центрів обробки даних, які зараз виконують звичайні обчислення, поступово перетворяться на об’єкти, що підтримують обчислення зі штучним інтелектом. Тому для виробників апаратного забезпечення штучного інтелекту такі компанії, як NVIDIA, безсумнівно, відкрили золотий період розвитку. Ми повинні віддати належне Хуан Реньсюню та його команді. Вони передбачили цю тенденцію та успішно розробили провідне апаратне забезпечення штучного інтелекту, яке зараз є на ринку.

Коли обчислювальна потужність зростає з такою приголомшливою швидкістю, розвиток штучного інтелекту нагадує ін’єкцію потужного стероїду, виходячи на абсолютно новий рівень. Оскільки кількість онлайн-комп’ютерів продовжує зростати, ми стали свідками безпрецедентного прискорення розвитку. Насправді я ніколи не бачив, щоб будь-яка технологія розвивалася так швидко, як штучний інтелект. Хоча я бачив багато технологій, що швидко розвиваються, розвиток штучного інтелекту мене все ще дивує. Проте, як я вже сказав, я думаю, що кінцевий результат, швидше за все, буде позитивним.

Незважаючи на те, що ми стикаємося з багатьма проблемами, наприклад, як підтримувати людську значущість у цій сфері та як знаходити нові цілі та значення, я вважаю, що було б надмірно спрощувати надмірний акцент на тому, що комп’ютери можуть бути хорошими в усьому.

Як ви зазначали раніше, я вважаю, що передбачення вашої книги щодо майбутнього суспільства дуже точні. Це епоха матеріального достатку, коли товарів і послуг буде настільки багато, що вони доступні кожному. Завдяки широкому застосуванню штучного інтелекту та робототехніки вартість товарів і послуг буде зведена практично до нуля. Економіка, по суті, є продуктом чисельності населення та середньої продуктивності на людину. Коли ми матимемо передову робототехнічну технологію, таку як Optimus від Tesla, економічний потенціал справді розкриється.

Автомобілі Tesla, як роботи на чотирьох колесах, вже продемонстрували сильні можливості. Очікується, що остання версія з можливостями повністю автономного водіння досягне наскрізного керування на основі штучного інтелекту, що зробить автомобіль справді інтелектуальним роботом на колесах. У поєднанні з розвитком гуманоїдних роботів можливість економічного результату майже необмежена.

З оптимістичної точки зору ми рухаємося до майбутнього надзвичайного матеріального достатку, що, на мою думку, є найбільш імовірним результатом. Я думаю, що єдиним можливим дефіцитом у майбутньому буде дефіцит, який ми створюємо штучно, наприклад певні унікальні витвори мистецтва чи конкретні речі. Але крім цього будь-яких товарів і послуг стане надзвичайно багато.

Діамандіс: Ви людина, яка може формувати майбутнє за допомогою практичних дій і маєте глибоке розуміння майбутніх тенденцій. З огляду на стрімкий розвиток сучасних технологій, мені дуже цікаво, як далеко в майбутнє, на вашу думку, ви можете зазирнути, тобто скільки років відтепер розвиватися тенденції?

Маск: В епоху швидких змін здатність передбачати майбутнє стає все більш важливою. Хоча майбутнє повне невизначеності, я вважаю, що деякі тенденції чітко проглядаються. Ми відкриємо еру штучного інтелекту, і його здібності досягнуть або навіть перевищать людський рівень у будь-якому пізнавальному завданні. Це лише питання часу. Люди можуть по-різному думати про те, чи буде це кінець наступного року, два роки чи три роки. Однак одне можна сказати напевно, що він не перевищуватиме п’яти років. Мій прогноз базується на ймовірності 50%, яка не є абсолютною. Але, на мою думку, штучний інтелект, швидше за все, перевершить здібності будь-якої окремої людини в певних аспектах до кінця наступного року.

Що стосується того, чи перевершує це людську колективну мудрість, це може зайняти більше часу. Якщо темпи змін триватимуть, я припускаю, що приблизно у 2029 чи 2030 роках цифровий інтелект, ймовірно, перевищить сукупність усіх людських інтелектів. Розглядаючи ці питання, я схильний прийняти метод основних співвідношень, як і перші принципи фізики. Поєднавши цей метод із ймовірнісним аналізом, ми можемо точніше зрозуміти майбутні тенденції розвитку.

Якщо ми порівняємо можливості цифрових обчислень із біологічними обчисленнями та додамо всі розвинені когнітивні здібності людини як вид обчислювальної потужності, а потім порівняємо це з цифровими обчислювальними можливостями, ви побачите, що швидкість зростання цього співвідношення вражає. Тому я вважаю, що 2029 або 2030 рік є розумним часовим вузлом. У той час накопичена цифрова обчислювальна потужність, швидше за все, перевищить накопичену біологічну обчислювальну потужність передових функцій мозку. Відтоді розрив між ними продовжуватиме збільшуватися, і не буде жодної можливості звужуватися.

Однак, коли ми стоїмо на цій відправній точці і дивимося в майбутнє, як далі розвиватимуться події? Чесно кажучи, я не можу передбачити всіх деталей. Але якщо ми розглянемо фактори росту та обмежувальні фактори, з якими вони можуть зіткнутися, ми знайдемо кілька цікавих підказок.

Минулого року обмеження поставок чіпів були головним стримуючим фактором для розвитку ШІ. Цього року ключовим вузьким місцем стануть знижувальні трансформатори. Уявіть собі, що потрібно знизити напругу 300 кіловольт до менше 1 вольта, необхідного комп’ютеру. Це величезний виклик. Тому нам потрібні більш ефективні «Трансформери для трансформаторів», які є понижуючими трансформаторами або трансформаторами нейронних мереж ШІ. Це справді велика проблема цього року.

У найближчі кілька років постачання електроенергії може стати головним стримуючим фактором. Штучний інтелект має величезний попит на електроенергію, а перехід до сталої енергетики та популярність електромобілів також посилили попит на електроенергію. Тому ми повинні серйозно розглянути питання про те, як задовольнити зростаючий попит на електроенергію, щоб забезпечити постійний розвиток і застосування цих технологій.