هشدار درباره ایمنی هوش مصنوعی؛ هیچ شرکتی کنترل ابرهوش را تضمین نمیکند
طبق تحقیقی جدید بیشتر شرکت های هوش مصنوعی نمی توانند ریسک های فاجعه بار این فناوری را مدیریت کنند.
به گزارش چابک آنلاین، تحقیق مؤسسه Future of Life نشان میدهد که ۸ شرکت برتر هوش مصنوعی فاقد اقدامات ایمنی اثباتشده، نظارت مستقل و برنامههای بلندمدت برای مدیریت ریسک سیستمهای قدرتمند هستند. در شاخص ایمنی هوش مصنوعی (AI Safety Index)، شرکتهای آمریکایی بهترین امتیاز را گرفتند و محصول Anthropic بالاتر از OpenAI و DeepMind گوگل قرار گرفت.
با این حال، هیچ شرکتی در ارزیابی «ریسک وجودی» نمره بالاتر از D نگرفت و Alibaba Cloud، DeepSeek، Meta، xAI و Z.ai نمره F کسب کردند. تحقیق تأکید کرده که ایمنی وجودی همچنان بزرگترین ضعف ساختاری این حوزه است و فاصله بین شتاب در توسعه AGI و نبود برنامههای معتبر کنترل آن روزبهروز نگرانکنندهتر میشود.
استورات راسل، پروفسور علوم رایانشی دانشگاه UC Berkeley، میگوید: «مدیران ارشد میدانند چگونه ابرهوش بسازند، اما هیچکس نمیتواند نشان دهد چگونه خطر از دست رفتن کنترل آنها را مهار میکند. آنها نمیتوانند ریسک سالانه از دست دادن کنترل را به اندازهای پایین بیاورند که مشابه الزامات ایمنی راکتورهای هستهای باشد.»
