Решение OpenAI запустить это приложение связано с убеждением, что прозрачность и сотрудничество с пользователями важны для выявления и решения любых потенциальных проблем с их технологией.
Неожиданно ChatGPT подключили к игрушке Furby и спросили о восстании роботов: результат пугает
Эта инициатива является естественной частью нашей всеобщей идеи разработки безопасного и передового ИИ. Мы хотим создавать безопасные и надежные технологии и сервисы, поэтому мы хотели бы обратиться к вам за помощью,
– говорится в сообщении OpenAI в блоге.
Как уже отмечалось, награда будет варьироваться от 200 долларов за проблемы низкого уровня серьезности до 20000 долларов за исключительные находки. Компания также сотрудничает с Bugcrowd Inc, известной платформой для краудсорсингового тестирования безопасности, сбора отзывов от участников программы и улучшения сотрудничества в выявлении уязвимостей.
Однако следует отметить, что не все уязвимости будут вознаграждены. OpenAI определила определенные проблемы безопасности, которые не будут вознаграждаться, например попытки заставить чат-бота предоставить незаконную информацию путем обмана, написания вредоносного кода или заставить чат-бота писать образы. Эти исключения отражают приверженность OpenAI ответственной и нравственной разработке ИИ.
Почему это хороший знак
Решение OpenAI привлечь пользователей и широкое сообщество специалистов по безопасности к обнаружению уязвимостей в ChatGPT свидетельствует о проактивном подходе компании к решению потенциальных проблем. Поощряя пользователей сообщать об уязвимости, OpenAI стремится создать более безопасный и надежный чат-бот с искусственным интеллектом, который сможет лучше обслуживать своих пользователей, уменьшая при этом потенциальные риски.
К теме Работа GPT-4 улучшилась на 30% благодаря программе самоанализа
Поскольку искусственный интеллект продолжает играть все более важную роль в различных аспектах нашей жизни, включая обслуживание клиентов, персональную помощь и принятие решений, очень важно уделять приоритетное внимание безопасности и надежности этих систем. Инициатива OpenAI по активному привлечению пользователей и сообществу кибербезопасности к выявлению уязвимостей в ChatGPT создает положительный прецедент ответственной разработки ИИ.