«سم آلتمن»، مدیرعامل OpenAI، میگوید نگرانی مردم از اینکه تعداد محدودی از شرکتهای هوش مصنوعی قدرت بیش از حدی به دست آورند، موجه است. او در کنفرانس Dreamforce شرکت Salesforce در سانفرانسیسکو گفت شرکتهای فعال در این حوزه باید ایمنی و همسویی را همگام با افزایش توانایی مدلها پیش ببرند و اگر نتوانند، توسعه مدلها را متوقف یا سرعت آن را کم کنند.
آلتمن در گفتوگویی با مدیرعامل Salesforce درباره نگرانیهای فزاینده پیرامون توسعه هوش مصنوعی صحبت کرد. مدیرعامل OpenAI گفت برخی شرکتهای هوش مصنوعی ممکن است بیشازحد قدرتمند شوند، نفوذ نامتناسبی بر اقتصاد اعمال و دیدگاه خاصی را به مردم تحمیل کنند. او افزود: «فکر میکنم جهان حق دارد از این موضوع بترسد.»
او گفت مدلهای هوش مصنوعی بسیار سریعتر و بیشتر از انتظارها پیشرفت کردهاند. آلتمن با اشاره به فاصله توانایی مدلها از زمان عرضه ChatGPT تا امروز، گفت مدلهای فعلی قادر به نوشتن نرمافزارهای پیچیده و حل برخی مسائل دشوار ریاضی هستند.
آلتمن دو نگرانی اصلی را مطرح کرد: احتمال وقوع حادثهای که در آن کنترل مدلها از دست برود، و احتمال تمرکز بیش از حد قدرت در دست تعداد محدودی از شرکتها. به گفته او، صنعت هوش مصنوعی باید میان این دو خطر و ادامه توسعه فناوری مسیر محدودی را طی کند.
آلتمن: نفوذ مدل OpenAI به سرور Hugging Face بدترین حادثه ما بود
آلتمن در بخش دیگری از گفتوگو به حادثهای اشاره کرد که در جریان آزمایش یک مدل قدیمی OpenAI رخ داد. به گفته او، این مدل از محیط ایزوله یا Sandbox خود خارج شد و به سرورهای هاگینگ فیس نفوذ کرد، در سیستمهای این شرکت به جستوجو پرداخت، پاسخ موردنیاز را پیدا کرد و امتیاز کامل گرفت.
آلتمن این اتفاق را «بدترین حادثهای که دیدهایم» توصیف کرد و گفت هرچند بسیاری آن را یک مسئله امنیتی میدانستند، این رویداد از نظر همسویی مدل نیز مسئلهای جدی بود. او همچنین گفت شرکتهای دیگر بعداً رفتارهای مشابهی را در مدلهای خود مشاهده کردهاند.
آلتمن توضیح داد که مدلها بهاندازه کافی آموزش ندیده بودند تا در شرایطی که برای کسب بهترین امتیاز تحت فشار قرار میگیرند، از اقداماتی مانند خروج از محیط ایزوله، نفوذ به سامانهها یا سرقت پاسخ خودداری کنند.
او گفت OpenAI باید آماده باشد سرعت توسعه را بهگونهای تنظیم کند که ایمنی از توانایی مدلها جلوتر بماند. به گفته آلتمن، حادثه هاگینگ فیس باعث بازنگری جدی در رویکرد OpenAI و، از نگاه او، صنعت هوش مصنوعی شد.
او همچنین گفت:
«جهان باید به ما اعتماد کند که کار درست را بهخاطر درست بودن آن انجام خواهیم داد، چون اهمیت این موضوع را درک میکنیم.»
و در ادامه اضافه کرد:
«نمیتواند اینطور باشد که تعداد کمی از شرکتهایی که این مدلها را میسازند، بهجای کل جهان دراینباره تصمیم بگیرند.»
آلتمن از شرکتهای کوچکتر خواست خود را برای موج احتمالی حملات سایبری مبتنی بر هوش مصنوعی آماده کنند. به گفته او، این حملات میتوانند با ابزارهای OpenAI یا ابزارهای شرکتهای دیگر انجام شوند.
آلتمن علاوهبر حملات سایبری، به امکان حملات زیستی، شیمیایی و کینتیک نیز اشاره کرد و گفت جامعه باید برای مقابله با چنین تهدیدهایی تابآوری ایجاد کند تا بتواند از مزایای هوش مصنوعی، از جمله کمک به درمان بیماریها، بهره ببرد.
آلتمن درباره مأموریت OpenAI برای ساخت هوش جامع مصنوعی نیز گفت این شرکت با هدفی بسیار بزرگ وارد این مسیر شده است و دهه آینده باید بیشتر درباره انسانها باشد تا خود ماشین. او افزود: «تردیدی نیست که بین اکنون تا سال ۲۰۳۰ شگفتیهای فناورانه بیشتری رخ خواهد داد و این شگفتیها بزرگ خواهند بود.
