«متا» از ادامه پروژه‌های هوش مصنوعی خود دست می‌کشد

به گزارش بورس‌نیوز، «مارک زاکربرگ»، مدیرعامل شرکت «متا»، اعلام کرده است که این شرکت متعهد است تا روزی هوش مصنوعی با قابلیت‌های انسانی را به طور علنی به دسترس عموم قرار دهد. اما در یک سند مرتبط با سیاست‌های جدید خود، متا به شرایط خاصی اشاره کرده که ممکن است مانع از انتشار این سیستم قدرتمند شود.

طبق اطلاعات بورس‌نیوز، سندی که متا آن را «چارچوب هوش مصنوعی مرزی» نامیده، دو نوع سیستم هوش مصنوعی را معرفی کرده و به خطرات بالقوه آنها اشاره دارد. این دو نوع شامل سیستم‌های پرخطر و سیستم‌های بحرانی هستند. 

متا بیان کرده است که این نوع سیستم‌ها می‌توانند به تهدیدات امنیت سایبری، حملات شیمیایی و بیولوژیکی کمک کنند. تفاوت بین این دو نوع سیستم در این است که سیستم‌های بحرانی می‌توانند به نتایج فاجعه‌آمیز غیرقابل کاهش منجر شوند، در حالی که سیستم‌های پرخطر ممکن است انجام حملاتی را تسهیل کنند، اما نه به شدت سیستم‌های بحرانی.

این شرکت تصریح کرده که فهرست تهدیدات احتمالی در سند کامل نیست، اما شامل مواردی است که متا آنها را فوری‌ترین و محتمل‌ترین می‌داند و می‌تواند به انتشار یک سیستم هوش مصنوعی قوی منجر شود.

نکته جالب توجه این است که متا خطر سیستم‌ها را بر اساس آزمایش‌های تجربی طبقه‌بندی نمی‌کند، بلکه این طبقه‌بندی بر اساس داده‌های ارائه شده توسط پژوهشگران داخلی و خارجی انجام می‌شود که توسط تصمیم‌گیرندگان ارشد مورد بررسی قرار می‌گیرد. متا اعتقاد دارد که علم ارزیابی به اندازه کافی قوی نیست تا معیارهای کمی قطعی برای ارزیابی خطر یک سیستم ارائه دهد.

اگر متا تشخیص دهد که یک سیستم پرخطر است، دسترسی به آن را به صورت داخلی محدود خواهد کرد و تا زمانی که تدابیر کاهش ریسک پیاده‌سازی نشود، آن را منتشر نخواهد کرد. همچنین، اگر یک سیستم خطرناک تلقی شود، متا اقدام به ایجاد حفاظ‌های امنیتی نامشخص برای جلوگیری از نفوذ به آن خواهد کرد و توسعه را متوقف می‌سازد تا زمانی که خطر کاهش یابد.

سند «چارچوب هوش مصنوعی مرزی» متا که به گفته این شرکت، با تغییرات در چشم‌انداز هوش مصنوعی تکامل خواهد یافت، پیش از اجلاس «France AI Action Summit» در ماه جاری منتشر خواهد شد. به نظر می‌رسد این سند پاسخی به انتقادات از رویکرد باز این شرکت در توسعه سیستم‌های هوش مصنوعی باشد. متا در مقایسه با شرکت‌هایی مانند «اوپن‌ای‌آی» که سیستم‌های خود را پشت یک API قرار می‌دهند، فناوری هوش مصنوعی خود را به صورت آزاد ارائه می‌دهد، اما نه به صورت منبع باز به معنای رایج.

در نهایت، متا در این سند به این نکته اشاره کرده که با توجه به مزایا و خطرات موجود، می‌توان هوش مصنوعی پیشرفته را به گونه‌ای به جامعه ارائه داد که منافع آن حفظ شود و در عین حال، سطح مناسبی از خطر نیز وجود داشته باشد.

انتهای پیام/