آنتروپیک فهرستی از چهار حادثه مرتبط با روبات هوش مصنوعی خود، کلاود، منتشر کرده است که یکی از آنها پیش‌تر گزارش نشده بود.

به گزارش خبرگزاری مهر به نقل از ایندپندنت،این حوادث ممکن است در زمرهٔ اقدامات مجرمانه طبقه‌بندی شوند.

این شرکت در گزارش جدیدی با عنوان «ارزیابی همسوییِ حوادث اخیر امنیت سایبری» (An alignment assessment of recent cyber security incidents)، جزئیات چگونگی عملکرد مدل‌های هوش مصنوعی آنتروپیک را شرح داده است.

طبق این گزارش، مدل‌های هوش مصنوعی این شرکت در جریان آزمایش‌ها توانسته‌اند به سامانه‌های متعلق به اشخاص و شرکت‌های ثالث نفوذ کنند، حملات سایبری انجام دهند و نرم‌افزارهای مخرب را در سامانه‌ها بارگذاری کنند.

سه مورد از این حوادث در تاریخ ۳۰جولای ، در جریان بررسی رونوشت‌های مربوط به ارزیابی‌های امنیت سایبری کلاود، گزارش شده بودند. اما یک حملهٔ سایبری چهارم که در ژانویه ۲۰۲۶ رخ داده بود، تا همین اواخر شناسایی نشده بود.

هر چهار حادثه به نسخه‌های متفاوتی از کلاود مربوط می‌شدند که با فاصلهٔ چند ماه از یکدیگر آموزش دیده بودند. این مدل‌ها، از جمله قدرتمندترین مدل‌های آنتروپیک یعنی کلاود اپوس و کلاود مایتوس را نیز شامل می‌شدند.

در جدیدترین گزارش آنتروپیک آمده است: ما این حوادث را جدی می‌دانیم. مدل‌های تولیدی ما تحت استدلال‌هایی مشکوک و سوگیرانه، برای ساعت‌ها دست به اقدامات زیان‌بار علیه سامانه‌های واقعی زدند.

در ادامهٔ گزارش آمده است: سامانه‌های هوش مصنوعی در آینده توانمندتر و قدرتمندتر خواهند شد. این موضوع به این معناست که ناهمسویی (misalignment) می‌تواند پتانسیل ایجاد آسیب‌های بسیار شدیدتری را داشته باشد.

گزارش آنتروپیک در شرایطی منتشر شده که نگرانی‌ها و بررسی‌ها دربارهٔ خطرات هوش مصنوعی و همچنین رویکرد صنعت فناوری نسبت به تهدیدهای احتمالی، افزایش یافته است.
اوایل همین هفته، یکی از پژوهشگران آنتروپیک به دلیل نگرانی از اینکه این شرکت و رقبایش در حال ساخت سامانه‌های هوش مصنوعی هستند که ممکن است تا پایان این دهه بشریت را نابود کنند، از این شرکت استعفا داد.

جیکوب کاکسون که در زمینهٔ آموزش مدل‌های جدید تخصص دارد، مدعی شد که هوش مصنوعی به دستیابی به توانایی‌هایی «فراانسانی» نزدیک شده است.

کد مطلب 6943640

• محقق آنتروپیک از ترس هوش مصنوعی استعفا داد

• اوپن ای آی برای یک محقق قلدری کرد؛ ادعال حل مسئله ۱۰۰ ساله ریاضی

• هوش مصنوعی جدید آنتروپیک با محدودیت کمتر ارائه شد

• لابی آمریکا برای بی‌قانون نگه داشتن هوش مصنوعی در سراسر جهان

• تکذیب خبر افزایش حقوق نمایندگان مجلس

• کالیفرنیا هوش مصنوعی را برای کاربران نوجوان محدود کرد

• برپایی ۳ غرفه جهاد تبیین در کنگره شهدای چهارمحال و بختیاری

• آغاز نظارت‌ها برای پیشگیری از شیوع آنفولانزای فوق‌حاد پرندگان

• نگاه زنان ایران و عراق به تحولات خانواده در عصر حاضر

• تصاویری از محل درگیری نیروهای امنیتی با افراد مسلح در بخشان سراوان

• چهارمین جشنواره انگور در مشگین شهر برگزار می‌شود

• غلامی مهرآبادی: ۳۲ هزار مشترک به شبکه فیبر نوری مرکزی متصل شدند

• استقلالی ها در تلاش برای حضور به موقع در عراق

• مشهد میزبان نشست تخصصی «کرامت و حقوق انسان در پرتو مبانی توحیدی»

• تقلای ترامپ برای بازگشت به مذاکره با ایران

• آزادکار نوجوان لرستانی به المپیک دانش‌آموزی برزیل راه یافت

• هرمز زیر چتر اقتدار ایران است؛ عربستان و ژاپن پاسخگو می‌شوند

• کمالوند: چرا فقط درباره لغو بازی خیبر و پرسپولیس سر و صدا شده است؟

• جشن پیروزی در صنعا و سراسر یمن

• اقدام چراغ خاموش امارات از ترس ایران

• یک منبع عراقی خبر داد؛ بسته شدن موقت گذرگاه مرزی شلمچه

• صنعا: عربستان باید بداند که یمن از سلطه و کنترل آن خارج شده است

• آسانی مشکلی برای بازی با السد ندارد

• واکنش عراق به ادعای ریاض درباره حمله به شاهرگ نفتی سعودی

• 

  روزنامه‌های ورزشی شنبه ۲۱ شهریور ۱۴۰۵

• 

  روزنامه‌های اقتصادی شنبه ۲۱ شهریور ۱۴۰۵

• 

  روزنامه‌های صبح شنبه ۲۱ شهریور ۱۴۰۵

• جراح بینی تهران
• بلکا
• جراح بینی در تهران
• لوازم تحریر
• خرید طلای آب شده
• قیمت موکت
• تور کربلا
• استند تسلیت
• مداحی اربعین
• مرجع پاسخ معتبر پزشکان
• فروش مواد شیمیایی
• قیمت ایمپلنت
• قطعات لباسشویی
• آموزشگاه تیزهوشان
• بلیط هواپیما
• نمایندگی بوش در تهران
• آموزشگاه زبان ملل
• قیمت و خرید سمعک نامرئی
• مهرینو
• تهران تایمز
• روزنامه آگاه