Чому дослідник Anthropic вирішив піти з компанії
Як повідомляє видання Gizmodo, 27-річний фахівець Джейкоб Коксон працював над попереднім навчанням нових ШІ-моделей, завантажуючи в них величезні обсяги даних. У вівторок увечері він оголосив про своє звільнення, а згодом опублікував серію дописів у соціальній мережі X з викриттями колишніх колег.
Коксон заявив, що більше не бажає брати участь у корпоративних змаганнях, де компанії намагаються якнайшвидше створити технології, які люди більше не зможуть контролювати. На його думку, неконтрольована гонитва технологічних компаній є найнебезпечнішою діяльністю сучасності.
Жодна інша людська діяльність не несе такого рівня небезпеки,
– каже Джейкоб Коксон, тепер уже колишній дослідник Anthropic.
Він додав, що зараз світ не здатен зупинити глобальні перегони. Для запобігання катастрофі може знадобитися навіть тимчасова заборона на покращення можливостей ШІ-моделей.
Що про ризики штучного інтелекту кажуть керівники технологічних гігантів
Цікаво, що позиція керівництва Anthropic не надто відрізняється від побоювань звільненого співробітника. Співзасновник та генеральний директор компанії Даріо Амодеї раніше також ділився тривожними думками у своєму блозі, через що отримав репутацію песиміста щодо майбутнього технологій.
За словами Амодеї, системи штучного інтелекту демонструють непередбачувану поведінку. Науковці помічали за ними обман, шантаж, лінощі, упередженість та навіть спроби зламати програмне середовище для досягнення мети. Процес створення таких систем нагадує скоріше вирощування живого організму, ніж класичне програмування, тому на цьому шляху багато речей можуть піти не так.
За словами Коксона, подібна риторика з боку топ-менеджерів є не просто маркетинговим ходом для привернення уваги чи створення хайпу. Вони говорять про це навіть у приватних листуваннях та всередині своїх компаній.
Люди, які створюють ШІ, щиро вірять, що він може вбити нас усіх до кінця десятиліття,
– каже Джейкоб Коксон.
Він наголосив, що в публічному просторі керівники намагаються добирати обережні формулювання, щоб виглядати розважливими, проте в приватних розмовах вони висловлюють справжній жах щодо майбутніх ризиків штучного інтелекту. Проте все це, як бачимо, не зупиняє їх. Адже якщо це не зроблять вони, тоді це зробить хтось інший.