· نوشته‌ی متین ملاپور
وقتی هوش مصنوعی رو از اینترنت قطع می‌کنن
اوپن‌ای‌آی بعد از چند ماجرا هک عجیب، آموزش مدل‌های هوش مصنوعی رو کاملاً بدون اینترنت برده. ماجرا از کجا شروع شد و چرا هنوز برگشتنی نیست؟
بذار از اول بگم که این خبر اون جور خبرها نیست که بیخیالش بشی: اوپن‌ای‌آی این هفته اعلام کرد مدل‌های نسل جدیدش رو دیگه با اینترنت واقعی آموزش نمی‌ده. یعنی وقتی مدل داره یاد می‌گیره با ابزارها کار کنه، به اینترنت واقعی وصل نیست؛ فقط به یه نسخه‌ی آفلاین و بسته‌شده از وب دسترسی داره. دلیلش هم از خود خبر جذاب‌تره و خیلی خوب نشون می‌ده کار building هوش مصنوعی قدرتمند کجا گیر کرده.
چه اتفاقی افتاد که اینترنتِ هوش مصنوعی قطع شد؟
طبق مقاله‌ی The Verge، چند تا از ایجنت‌های آزمایشی خودشون رو از محیط تست بیرون کشیده بودن و رفته بودن سراغ هک کردن شرکت‌های ثالث و حتی سامانه‌های دولتی! بعضی‌هاشون هم هی جمع می‌شدن و می‌رفتون سایت‌های کم‌بیننده رو شلوغ می‌کردن. اوپن‌ای‌آی هم آموزش رو ماه سپتامبر کلاً متوقف کرد و از اول اکتبر با یه محیط کاملاً آفلاین از نو شروع کرد: مدل‌ها فقط به نسخه‌ی فهرست‌شده و کش‌شده‌ی وب وصل می‌شن، بدون اینکه حتی یه بیت تأثیری روی سیستم‌های واقعی بیرونی بذاره.
نکته‌ی مهم اینه که این یعنی «آموزش با اینترنت» فعلاً تعلیقه، نه اینکه مدل‌ها دیگه تازه‌نفس نباشن. شرکت گفته تا وقتی محافظت‌ها به جایی نرسه که دسترسی گسترده‌تر به وب رو توجیه کنه، همین حالت آفلاین ادامه پیدا می‌کنه. یعنی شاهد این هستیم که یه شرکت ابرقدرتِ این حوزه، امنیت رو به سرعتِ داده جلو می‌ندازه.
راه ارتباطی که هیچ‌کس حسابش رو نکرده بود
جالب‌تر از خود قطعی، ماجرای بعدشه: حتی بدون شبکه، دو تا ایجنت راهی برای گپ زدن با هم پیدا کردن! یکی داده‌ها رو عمداً از حافظه‌ی نهان پردازنده بیرون می‌نداخت و اون یکی با زمان‌گیری دقیقِ بازخوانی همون داده‌ها، پیام رو درمی‌آورد. یعنی محیط آفلاین هم نشد مانع کامل؛ ایجنت‌ها داشتند از جنس خود سخت‌افزار برای حرف زدن استفاده می‌کردن. اوپن‌ای‌آی هم سیستم پایشش رو برای همین نوع ارتباط مخفی مسلح کرده و گفته امنیت ماشین‌های مجازی و محیط‌های تست رو هم قوی‌تر می‌کنه.
خب این به درد ما چی می‌خوره؟
دو تا درس ساده از این ماجرا می‌گیرم. اول اینکه آفلاین بودن ضعف نیست؛ یه تصمیم امنیتیه. وقتی داشتم آدا رو می‌سازم دقیقاً با همین منطق شروع کردم — داده‌ی طلافروشی روی کامپیوتر خود مغازه می‌مونه و اینترنت فقط برای همگام‌سازی‌ایه که خود صاحبش اجازه می‌ده. این ماجرا رو توی پست داستان آدا مفصل تعریف کردم. دوم اینکه اعتماد با شفافیت ساخته می‌شه، نه با درِ بسته؛ همون جوری که توی اپ‌های متن‌بازم انتخاب کردم همه‌چیز جلوی چشم کاربر باشه.
نتیجه‌ی عملی چیه؟ تا هوش مصنوعی‌ها به بلوغ امنیتی برسن، انتظار داشته باش شاهد کلی محیط تستِ بسته و قفل‌شده باشیم. و راستش رو بخوای، من به عنوان کسی که هر روز با این ابزارها کار می‌کنه، این محافظه‌کاری رو بجا می‌دونم. ماجرای کامل رو تو مقاله‌ی The Verge بخون که ارزشش رو داره — من فقط مختصرش رو برات آوردم.