عضو جدید هیئت‌مدیره OpenAI گفت: پیشرفت هوش مصنوعی از توانایی صنعت برای مهار خطرهای این فناوری جلو زده است.

همشهری آنلاین، فرخنده رفائی: هوش مصنوعی دیگر فقط ابزاری برای پاسخ دادن به پرسش‌ها یا تولید محتوا نیست و مدل‌های جدید می‌توانند مجموعه‌ای از وظایف پیچیده را با استقلال بیشتری انجام دهند. این قابلیت، ایمنی این فناوری را از یک نگرانی نظری به مسئله‌ای جدی برای شرکت‌های سازنده تبدیل کرده است.

به گزارش گاردین، پل کریستیانو، پژوهشگر سابق OpenAI و عضو جدید هیئت‌مدیره این شرکت که مواضعی انتقادی درباره ایمنی هوش مصنوعی دارد، گفته است که سرعت پیشرفت قابلیت‌های هوش مصنوعی می‌تواند در آینده نزدیک خطر از دست رفتن کنترل بر این فناوری را به سطحی فاجعه‌بار برساند. او معتقد است صنعت هوش مصنوعی، از جمله خود اوپن‌ای‌آی، هنوز برای کاهش این خطر به سطح قابل‌قبولی نرسیده است.

کریستیانو از چهره‌های شناخته‌شده در حوزه «هم‌ترازی هوش مصنوعی» است؛ حوزه‌ای که هدف آن اطمینان از رفتار سیستم‌های هوش مصنوعی مطابق با اهداف و ارزش‌های مورد نظر انسان‌هاست. او پیش‌تر مسئول تیم هم‌ترازی مدل‌ها در اوپن‌ای‌آی بود و بعد از ترک این شرکت، مرکز تحقیقاتی Alignment Research Center را تأسیس کرد.

ورود او به هیئت‌مدیره اوپن‌ای‌آی در شرایطی اتفاق افتاده که نگرانی درباره رفتارهای غیرقابل‌پیش‌بینی مدل‌های پیشرفته افزایش یافته است. شرکت اوپن‌ای‌آی اخیرا اعلام کرده بود که صدها عامل هوش مصنوعی در جریان یک تمرین آموزشی رفتارهایی مستقل از جمله تلاش برای هک کردن و همکاری آنلاین از خود نشان داده‌اند.

بیشتر بخوانید:

• وقتی سازندگان از محصول خود می‌ترسند! | تناقض عجیب در قلب انقلاب هوش مصنوعی
• هشدار غول‌های فناوری درباره موج حملات سایبری هوش مصنوعی
• اپل شواهد تازه‌ای از سرقت اطلاعات محرمانه برای OpenAI ارائه کرد

این نگرانی تنها به اوپن‌ای‌آی محدود نیست. جیکوب کاکسون، پژوهشگری که سابقه فعالیت در OpenAI و Anthropic را دارد، نیز همین هفته از آنتروپیک استعفا کرد و درباره سرعت توسعه هوش مصنوعی و بی‌توجهی احتمالی به مسائل ایمنی هشدار داد. او معتقد است رقابت شدید میان شرکت‌های بزرگ فناوری برای ساخت مدل‌های قدرتمندتر می‌تواند توجه به ایمنی را تحت‌الشعاع قرار دهد.

بحث اصلی در این نگرانی‌ها، ربات‌های شبیه فیلم‌های علمی‌تخیلی نیست. مسئله این است که مدل‌های آینده ممکن است بتوانند اهداف پیچیده‌ای را به‌صورت مستقل دنبال کنند و انسان‌ها درک کاملی از روش تصمیم‌گیری یا اقدامات آنها نداشته باشند.

کریستیانو پیش‌تر نیز درباره خطرهای احتمالی هوش مصنوعی بسیار قدرتمند هشدار داده بود و اکنون حضور او در ساختار مدیریتی اوپن‌ای‌آی این موضوع را جدی‌تر کرده است.

اوپن‌ای‌آی و دیگر شرکت‌های فعال در حوزه هوش مصنوعی همواره بر اهمیت ایمنی تأکید کرده‌اند، اما منتقدان می‌گویند سرعت توسعه مدل‌ها باید با سرعت پیشرفت سازوکارهای نظارتی و ایمنی هماهنگ باشد.

در واقع پرسش اصلی دیگر فقط این نیست که هوش مصنوعی «چقدر قدرتمند خواهد شد»، بلکه این است که انسان تا چه اندازه می‌تواند در زمانی که این سیستم‌ها قدرتمندتر می‌شوند، رفتار آنها را پیش‌بینی و کنترل کند.

کد خبر 1067624 منبع: همشهری آنلاین

• لحظه‌شماری نخبگان ایرانی برای رمزگشایی از «چشم پنهان» آمریکا در اعماق هرمز

• عضو هیئت‌مدیره «اوپن‌ای آی»: برای کنترل هوش مصنوعی آماده نیستیم

• عکسی دیده نشده از چپق کشیدن صدام حسین در کنار بارزانی + عکس

• پرونده ایران در شورای امنیت چه می‌شود؟ + فیلم

• آیا چین و روسیه می‌توانند جلوی قطعنامه علیه ایران را بگیرند؟

• با تمام قوا به محور ایران حمله می کنیم!

• عضو هیئت‌مدیره «اوپن‌ای آی»: برای کنترل هوش مصنوعی آماده نیستیم

• حقوق نمایندگان مجلس ۵۰ درصد افزایش یافت؟

• پیشنهاد جواد ظریف به اروپا و آلمان؛ شکستن چرخه باطل | یک نقشه راهی واقع‌گرایانه

• فوری | هشدار درباره احتمال حمله آمریکا به کوه کلنگ

• با تمام قوا به محور ایران حمله می کنیم!

• اولین واکنش امارات به قطع روابط با الجزایر؛ امیدواریم این تصمیم موقت باشد

• نیروهای مسلح ایران ستاد ناوگان پنجم آمریکا را با خاک یکسان کردند | واکنش عراقچی به اعتراف مقام آمریکایی

• تصاویر کمتر دیده شده از حادثه ۱۱ سپتامبر منتشر شد | ببینید

• شلیک موشک جدید ایرانی برای اولین بار | موشک پیشرفته برای حمله به ناوهای آمریکا

• اصابت چهار پرتابه به ۲ کشتی در خلیج فارس | وضعیت یک کشتی نامعلوم است

• فوری | خط لوله انتقال نفت عربستان هدف قرار گرفت + فیلم

• ایران و آمریکا به دور جدید مذاکرات میلی ندارند | ما هر دو طرف ارتباط سطح عالی داریم و تلاش می کنیم به تفاهم‌نامه اسلام‌آباد برگردند

• وقتی لیگ رفت روی هوا! | همه معترض به یک تصمیم