OpenAI از ایالات متحده خواسته است رهبری تلاشهای بینالمللی برای تدوین استانداردهای فنی مشترک برای هوش مصنوعی پیشرفته را برعهده بگیرد؛ این استانداردها حوزههایی مانند سنجش توانایی مدلها، خودبهبودی بازگشتی و گزارش حوادث ایمنی را پوشش دهند.
به گزارش رویترز، سازنده ChatGPT میگوید سیستمهای هوش مصنوعی کنونی همین حالا نیز بخشی از فرایندهای پژوهش و مهندسی مورد نیاز برای توسعه نسلهای بعدی مدلها را سرعت دادهاند. به گفته OpenAI، در آینده ممکن است مدلهای هوش مصنوعی بخش بیشتری از کار لازم برای ساخت نسلهای بعدی خود را انجام دهند.
به گفته OpenAI، در صورت رسیدن این روند به مرحلهای که هوش مصنوعی در توسعه نسلهای بعدی خود نقش داشته باشد، شاهد خودبهبودی بازگشتی (RSI) خواهیم بود. در RSI سیستمهای هوش مصنوعی بهصورت مستقل در توسعه نسلهای متوالی و توانمندتر هوش مصنوعی مشارکت میکنند. بااینحال، OpenAI میگوید شرکتها نباید دنبال خودبهبودی بازگشتی کاملاً خودکار بروند، مگر آنکه بتوان آن را بهصورت ایمن و با حفظ کنترل معنادار انسان انجام داد.
پیشنهاد OpenAI برای تدوین استانداردهای هوش مصنوعی توسط آمریکا
OpenAI هشدار داده است که اگر شرکتها و کشورها جداگانه برای مدیریت این تحولات اقدام کنند، ممکن است الزامات متفاوت و حتی متناقضی برای ارزیابی و گزارشدهی شکل بگیرد. این شرکت به همین دلیل خواستار ایجاد مجموعهای از استانداردهای فنی مشترک در سطح بینالمللی شده است.
براساس پیشنهاد OpenAI، آمریکا میتواند با شبکه مؤسسات ایمنی هوش مصنوعی در کشورهایی از جمله استرالیا، کانادا، آلمان، فرانسه، کنیا، ژاپن، کره جنوبی، سنگاپور، هند و بریتانیا برای تدوین این استانداردها همکاری کند.
این استانداردها میتوانند روشهای مشترکی برای اندازهگیری تواناییهای هوش مصنوعی، ارزیابی پیشرفت در زمینه خودبهبودی بازگشتی و تعیین زمانهایی برای بررسی فوری پژوهشهای خودکار توسط انسان مشخص کنند. OpenAI همچنین پیشنهاد کرده است چارچوبهای مشترکی برای دستهبندی و گزارش حوادث ایمنی ایجاد شود.
این شرکت همچنین خواستار ایجاد کانالهای ارتباطی امن میان دولتها و اپراتورهای زیرساختهای حیاتی شده تا تهدیدها و آسیبپذیریهای جدید مرتبط با هوش مصنوعی سریعتر به اشتراک گذاشته شوند.
OpenAI تأکید کرده است که این استانداردها قرار نیست به معنای الزام برای دریافت مجوز یا تأییدیه پیش از عرضه مدلهای هوش مصنوعی باشند. دولتهای مختلف میتوانند درباره نحوه واردکردن استانداردهای فنی آینده به قوانین داخلی خود تصمیم بگیرند.
