Блог | Билл Гейтс о трех главных рисках ИИ

Билл Гейтс сегодня опубликовал эссе об ИИ. Говорит, что это первое из серии. Пересказываю кратко, потому что здесь каждый абзац заслуживает внимания.

Далее текст на языке оригинала.

У мене було два життя. У першому я будував софт у Майкрософт. У другому, з 2008 року, віддаю зароблені гроші на здоров'я і освіту. Обидва досвіди формують мій погляд на штучний інтелект.

ШІ стане або найбільшим вирівнювачем в історії, або найгіршим джерелом несправедливості. Навіть за найкращих обставин перехід в еру ШІ буде одним з найтурбулентніших періодів в історії людства.

Зараз ми до нього не готуємось. Люди недооцінюють масштаб з двох причин. По-перше, моделі досі помиляються, і важко уявити, що вони замінять людину. Але проблема надійності вирішується швидко. По-друге, аналогії з минулими технологіями оманливі.

Персональному комп'ютеру знадобилось двадцять років, щоб змінити роботу. ШІ працює на пристроях, які в нас уже є, і говорить нашою мовою. Нам не треба адаптуватись до нього. Він адаптується до нас.

Цього разу справді інакше. Усе життя я хотів, щоб інновації йшли швидше. З ШІ мої почуття складніші. Найбільше часу на підготовку потрібно тим, у кого його найменше: працівнику бухгалтерії, якого замінить бот, або людині за двадцять доларів на годину, чиє місце займе робот за десять.

Якби хтось мав реалістичний план, як уповільнити розвиток ШІ глобально, я б його підтримав. Але цього не станеться. Геополітичні й економічні стимули женуть на повній швидкості.

Три великі ризики.

Перший. Багато робочих місць зникнуть назавжди. У 1933 році, під час Великої депресії, безробіття в США було близько 25 відсотків. Тоді економіка відновилась. Цього разу відновлення не прийде з економічним циклом.

Продажі, підтримка клієнтів, розробка софту, юридичні асистенти постраждають першими, але хвиля піде далі: оцінка кредитів, аналіз даних, патенти. Роботи додадуть сюди будівництво і сервіс. Ринкові сили зроблять впровадження все швидшим і швидшим, і без втручання хороших робочих місць буде менше, а вигода дістанеться вузькому колу.

Другий. ШІ дасть змогу завдавати шкоди тим, у кого раніше не було сил. Злочинець з мінімальними навичками зможе атакувати людей, компанії, уряди. Та сама модель, яка знаходить вразливість у софті, допоможе її використати.

Та сама модель, яка створює ліки, спростить створення нової хвороби. Найрозумніші експерти з кібербезпеки, яких я знаю, налякані тим, що буде найближчими роками.

Третій. ШІ може загальмувати розвиток наших дітей і замінити людські стосунки.

Хороше теж буде дуже великим: медицина, освіта, репетитор для кожної дитини, доступ малого бізнесу до можливостей, які сьогодні є тільки у корпорацій. Але хороше і погане прийдуть одночасно.

Світу потрібен план. І частина цього плану: відкласти деякі роботи для людей.

Мій батько помер від Альцгеймера у 2020 році. В останні місяці його доглядали люди, які розуміли його навіть тоді, коли він уже не міг говорити. Щось у їхній роботі було незамінно людським. Я називаю це Людським заповідником.

Як природні заповідники: там можна побудувати дороги, але ми обираємо не будувати, бо втрата буде надто великою.

Не можна сказати 55-річному будівельнику, що тепер він працюватиме в будинку для літніх, і чекати, що це спрацює. Не хочеться, щоб діагноз про невиліковну хворобу тобі повідомляв робот, хоча технічно він може.

І перебалансувати податки. Зараз, якщо ти наймаєш людину, ти платиш податки з її зарплати. Якщо купуєш робота, списуєш його як витрату.

Податкова система підштовхує замінювати людей машинами. Я пропонував податок на роботів роками, і більшість вважала це дивною ідеєю. Я досі її прихильник.

Мій меседж лідерам: у вас є шанс діяти зараз, до того, як безробіття різко зросте, громади постраждають, а довіра зникне.

Безпрецедентна технологія вимагає безпрецедентної глобальної відповіді. Якщо зробимо правильно, виграш для людства буде феноменальним.