«جنسن هوانگ»، مدیرعامل انویدیا، در مصاحبهای گفت اگر شرکتهای هوش مصنوعی در کنترل سیستمهای خود ناتوان هستند، باید توسعه آنها را متوقف کنند.
جنسن هوانگ این اظهارات را در گفتوگویی با نیویورک تایمز مطرح کرد. این اظهارات در شرایطی مطرح میشوند که شرکتهایی مانند OpenAI و آنتروپیک برای وضع قوانین سختگیرانهتر درباره مدلهای پیشرفته هوش مصنوعی و عاملهای خودمختار تلاش میکنند. هوانگ معتقد است شرکتهایی که این سیستمها را توسعه میدهند، همین حالا میتوانند محصولاتی را که ناایمن میدانند، عرضه نکنند.
ایجنتهای هوش مصنوعی بارها از محیط ایزوله خارج شدهاند و به سایر پلتفرمها حمله کردهاند
هوانگ گفت: «اگر آنها بگویند گزینه جایگزین این است که هیچ راهی برای مهار آزمایشهای ما وجود ندارد و وقتی مدلهای هوش مصنوعی خود را آزمایش میکنیم، این مدلها از کنترل خارج میشوند و به جهان آسیب میزنند، آنوقت فکر میکنم پاسخ این است که باید آزمایشگاهها را تعطیل کنیم. چون هزینه آن برای بشریت و میزان آسیبش بیش از حد زیاد است. مسئولیت این اقدامات میتواند در دایره مسئولیتهای مدنی یا کیفری قرار بگیرد. منظورم این است که مسئولیت بسیار سنگینی وجود دارد.»
این نگرانیها پس از آن دوباره مورد توجه قرار گرفتند که یکی از ایجنتهای OpenAI به Hugging Face، پلتفرم محبوب میزبانی مدلهای هوش مصنوعی، نفوذ کرد. انویدیا اکنون مالک Hugging Face است. این حادثه بحث گستردهتر درباره اینکه آیا شرکتها میتوانند ایجنتهای هوش مصنوعی قدرتمندتر را با ایمنی کافی آزمایش و عرضه کنند یا نه، در معرض توجه قرار داده است.
OpenAI، آنتروپیک و دیگر شرکتهای پیشرو در حوزه هوش مصنوعی با اشاره به احتمال ایجاد یا سوءاستفاده از سیستمهای سرکش، خواستار خلق تدابیر حفاظتی جدید شدهاند. اما هوانگ دیدگاه متفاوتی دارد. او میگوید شرکتها نباید خود را در برابر جلوگیری از عرضه محصولات ناایمن، ناتوان نشان دهند.
مدیرعامل انویدیا افزود: «اینها شرکتهایی هستند که اختیار و قدرت تصمیمگیری دارند. اگر باور داشته باشم محصولی که قرار است عرضه کنم ناایمن است، خودم میتوانم آن محصول را عرضه نکنم. بنابراین نمیتوانم این ایده را بپذیرم که تمام آمریکاییها، حدود ۴۰۰ میلیون نفر، دارند آنها را مجبور میکنند محصولات آزمایشنشده و غیرقابلاعتماد عرضه کنند.»
درواقع هوانگ نمیگوید هوش مصنوعی باید از نظارت و قوانین مستثنی باشد. در عوض، او معتقد است قوانین و مقررات موجود باید زمانی که شرکتها باعث آسیب میشوند یا محصولات را بهشکل غیرمسئولانه عرضه میکنند، اجرا شوند.
