با توجه به اینکه مدل‌های هوش مصنوعی درسال 2023 جهان را شگفت زده کرد و همه شرکت ها آخرین دستاوردهای خود را در زمینه هوش مصنوعی ارائه دادند، گردهمایی دف‌کان هم امسال از هکرها دعوت کرده است تا روی کشف باگ‌ها و سوگیری‌های مدل‌های زبانی بزرگ (LLM) شرکت‌های مختلف ازجمله OpenAI، گوگل و Anthropic تمرکز کنند.
سی و یکمین دوره «دِف کان»، بزرگترین گردهم‌آیی سالانه هکرها، در شهر لاس وگاس تنها با این هدف که هوش مصنوعی را فریب دهند و نقاط ضعف آن را پیدا کنند در حال برگزاری است.
دِف‌کان چیست ؟
دِف‌کان ( DEF CON) از مهمترین و قابل توجه‌ترین گردهمایی‌های هکرها در جهان است که همه ساله در شهر لاس وگاس، ایالت نوادا برگزار می‌شود. اولین رویداد دِف‌کان در ژوئن سال ۱۹۹۳ برگزار شد و امروزه بسیاری از شرکت کنندگان در آن شامل متخصصان امنیت رایانه، روزنامه نگاران، وکلا، کارمندان دولت فدرال، محققان امنیتی، دانشجویان و هکرهایی هستند که به نرم‌افزار، معماری رایانه، اصلاح سخت‌افزار، و هر چیزی که بتوان «هک» کرد، علاقه‌مند هستند. این رویداد شامل چندین بخش سخنرانی در موضوعاتی مربوط به رایانه- و هک کردن- و همچنین چالش‌ها و رقابت‌های مربوط به امنیت سایبری است.
رقابت‌های برگزار شده در طول این رویداد بسیار متنوع است، از ایجاد بیشترین فاصله اتصال یک دستگاه به وای‌فای تا یافتن موثرترین راه برای خنک کردن یک آبجو در گرمای نوادا. اما شاید مهمترین رقابت این رویداد تسخیر پرچم (CTF) باشد که در آن تیم‌هایی متشکل از هکرها باید از کامپیوترها و شبکه‌هایی که با سخت‌افزار، نرم‌افزار و معماری مشخصی در اختیار آنها قرارگرفته، دفاع یا به آنها حمله کنند.
در دف کان سی و یکم چه اتفاقی خواهد افتاد؟؟
به گزارش The Register، این گردهمایی که بزرگترین رویداد سالانه هکرهاست و در لاس‌وگاس برگزار می‌شود، امسال میزبان هزاران نفر ازجمله صدها دانشجو از مؤسسات آموزشی و جوامع مختلف خواهد بود که جمعی از آنها به‌دنبال کشف نقایص مدل‌های زبانی بزرگ می‌روند. این مدل‌ها همان فناوری پشت ابزارهایی مثل ChatGPT و بارد گوگل هستند.
«سوِن کت‌ول»، بنیان‌گذار گروه AI Village که مسئول دعوت‌کننده هکرها به این رویداد بوده است، در بیانیه‌ای می‌گوید: «شرکت‌ها به‌طور سنتی این مشکل را با تیم‌های قرمز (Red Teams) تخصصی خود حل می‌کردند. البته این کار معمولاً در خفا انجام می‌شد. اما مشکلات این مدل‌ها تا زمانی که افراد بیشتری از چگونگی تشکیل تیم‌های قرمز و ارزیابی مشکلات آگاه نشوند، برطرف نخواهد شد.»
هکرها در دف‌کان امسال کدام مدل‌های هوش مصنوعی را بررسی خواهند کرد؟
بنابراین دف‌کان امسال در‌واقع تیم قرمزی را تشکیل می‌دهد که برای حل این مشکلات ساخته می‌شود. AI Village برای شرکت‌کنندگان در این رویداد لپ‌تاپ و دسترسی محدود به مدل‌های زبانی شرکت‌های مختلف را فراهم می‌کند. این مدل‌ها درحال‌حاضر شامل مدل‌های شرکت Anthropic، گوگل، Hugging Face، انویدیا، OpenAI و Stability است.
افزون‌براین، اعلام شده که این رویداد با مشارکت مایکروسافت برگزار می‌شود؛ بنابراین شاید امکان دسترسی به مدل بینگ هم وجود داشته باشد. هکرها قرار است به پلتفرم ارزیابی شرکت Scale AI هم دسترسی پیدا کنند تا بتوانند نرم‌افزارها را دقیق‌تر و بهتر بررسی نمایند.
این خبر در شرایطی اعلام می‌شود که «کاملا هریس»، معاون اول رئیس‌جمهور آمریکا و چند مقام ارشد دولتی به‌تازگی با رؤسای OpenAI، مایکروسافت، Anthropic و گوگل درباره تهدیدهای هوش مصنوعی دیدار و صحبت کرده بودند.
رویداد دف‌کان 2023 از 19 تا 22 مردادماه امسال در لاس‌وگاس آمریکا در حال برگزاری است.
نتایج گردهمایی دِف کان تا فوریه 2024 ( بهمن 1402 ) عمومی نخواهد شد اما چیزی که پیش بینی می شود این است که با استعداد و داده های فعلی هوش مصنوعی، برنده این رقابت هکرها خواهند بود زیرا که مدل فعلی هوش مصنوعی کاملا شکننده هستند و به راحتی قابل دستکاری هستند. آنها مستعد تعصبات نژادی و فرهنگی فراوانی هستند و این امر یک خطر جدی برای آینده اطلاعاتی بشر خواهد بود.
رفع این نقص های هوش مصنوعی نیازمند صرف زمان و سرمایه گزاری قابل توجه می باشد.
