3 
Загроза автоматизації досліджень
З моменту запуску ChatGPT наприкінці 2022 року великі мовні моделі пройшли шлях від розважальних чат-ботів до потужних інструментів, здатних навіть знаходити критичні вразливості в кібербезпеці та здійснювати хакерські атаки. Проте сьогоднішня ситуація викликає серйозну тривогу у професійній спільноті, пише Neowin. Співробітники провідних компаній галузі, включаючи OpenAI, Google та Anthropic, підписали відкриту заяву під назвою "Pacing the Frontier".
Серед підписантів фігурують імена, що визначають майбутнє сучасних технологій: головний науковий співробітник OpenAI Якуб Пачоцький, керівник досліджень OpenAI Марк Чен, генеральний директор Anthropic Даріо Амодеї та головний науковий спеціаліст Meta AI Шенгцзя Чжао.
Експерти попереджають, що індустрія наблизилася до моменту, коли системи почнуть самостійно автоматизувати дослідження у сфері штучного інтелекту. Це може спричинити вибухове прискорення розробок, за яким люди просто не встигнуть простежити або яке не зможуть контролювати.
Пастка конкуренції та роль держави
Основна проблема полягає не лише в технологіях, а й у жорсткій ринковій боротьбі. Сьогодні жодна корпорація не наважиться добровільно загальмувати свої розробки заради безпеки, адже це означатиме миттєвий програш конкурентам. Автори ініціативи зазначають, що попри усвідомлення ризиків, тиск ринку змушує компанії рухатися вперед, часто ігноруючи необхідні перевірки та посилення нагляду.
Саме тому група фахівців звертається до уряду США з проханням підтримати міжнародні зусилля. Вони пропонують створити набір технічних та управлінських інструментів, які дозволять галузі синхронно та свідомо регулювати темпи розвитку автоматизованого штучного інтелекту за потреби.
Важливо, що ініціативу організували співробітники як приватні особи, а підтримку надали незалежні некомерційні організації Guidelight AI Standards та Encode AI. Компанія OpenAI вже публічно висловила підтримку цьому руху, підтверджуючи серйозність намірів фахівців змінити підхід до безпеки майбутнього.