Що сказав Едвард Сноуден
В OpenAI заявили, що "безпрецедентний досвід генерала Накасоне в таких сферах, як кібербезпека, допоможе компанії досягти своєї місії, яка полягає в тому, щоб штучний загальний інтелект приносив користь усьому людству". Але не всі в захваті від нової ролі Накасоне в компанії.
Дивіться також Штучний інтелект досяг важливого етапу: чат-бот на базі GPT-4 пройшов тест Тюрінга
АНБ, яким він раніше керував і, звісно ж, має зв'язки й дотепер, уже давно асоціюється зі стеженням за громадянами США та іноземцями, а ШІ-технології тільки посилюють існуючі проблеми стеження. З огляду на це, не дивно, що колишній співробітник АНБ і відомий викривач Едвард Сноуден виявився одним із відкритих противників цього призначення в OpenAI.
Вони повністю зняли маску: ніколи не довіряйте OpenAI або його продуктам,
– написав Сноуден у дописі в соцмережі X, додавши, що може бути лише одна причина для призначення директора АНБ до складу Ради директорів.
Він вважає, що це "свідома, розрахована зрада прав кожної людини на Землі".
Критика розростається
Сноуден був не єдиним видатним діячем у сфері кібербезпеки, який зреагував на новини OpenAI: "Я вважаю, що найбільшим застосуванням ШІ буде масове спостереження за населенням", – написав професор криптографії Університету Джона Хопкінса Метью Грін, який вважає, що залучення колишнього глави АНБ до OpenAI має під собою певну логіку й мету.
Призначення Накасоне відбулося після низки гучних звільнень з OpenAI:
- З компанії пішли спочатку колишні члени Ради директорів після невдалої спроби звільнити генерального директора Сема Альтмана, якого критикували за нехтування безпекою при розробці ChatGPT.
- Після цього пішов головний розробник Ілля Суцкевер, який був натхненником звільнення Альтмана і чи не найбільшим критиком його підходів до безпеки.
- Наступним пішов керівник групи контролю безпеки Superalignment Ян Лейке.
- Слідом за ним розпався і весь підрозділ, який повинен був слідкувати за дотриманням правил безпеки.
- Через тиждень після цього OpenAI оголосила про новий склад команди Superalignment, яка тепер перейменована на "Комітет із безпеки та захисту".
- Цей склад викликає багато питань, а головне з них про те, чому групу тепер очолює сам Сем Альтман, адже це створює конфлікт інтересів. Суть Superalignment у тому, щоб виступати певними опонентами керівництву компанії, регулюючи процеси, які можуть призвести до небезпечних результатів. Але тепер і керівництво, і команду контролю очолює одна людина, до того ж та, яку раніше звинувачували у нехтуванні питаннями безпеки. Таким чином Альтман повинен звітувати сам собі й давати поради щодо безпеки також самому собі.
- Пол Накасоне увійде до складу Комітету із безпеки та захисту.
Детальніше про це Нову команду безпеки OpenAI очолює людина, яку звинувачували у нехтуванні безпекою
За даними видання Axios, багато хто у владних кабінетах розглядає прихід Накасоне в OpenAI як перемогу в сфері безпеки. А сам генерал зі свого боку заявив, що "відданість OpenAI своїй місії тісно пов'язана з моїми власними цінностями та досвідом роботи на державній службі".