نگرانی‌های محققان درباره توسعه هوش مصنوعی: خطرات را جدی بگیریم، اما نه به‌طور اغراق‌آمیز

نگرانی‌های محققان درباره توسعه هوش مصنوعی: خطرات را جدی بگیریم، اما نه به‌طور اغراق‌آمیز

تاریخ: ۱۷ سپتامبر ۲۰۲۶ • ساعت ۱۷:۱۱

در روزهای اخیر، توسعه‌دهندگان بزرگ هوش مصنوعی به‌طور عمومی خواستار تنظیمات بیشتری برای فناوری خود شده‌اند. با این حال، برخی از محققان آلمانی با وجود تمامی خطرات، این هشدارها را تعدیل کرده و مسئولیت را بر دوش توسعه‌دهندگان می‌گذارند.

به ندرت پیش می‌آید که بنیان‌گذاران شرکت‌های بین‌المللی نسبت به محصولات خود هشدار دهند. اما شرکت‌های بزرگ هوش مصنوعی از ایالات متحده به تازگی چنین کاری کرده‌اند: OpenAI به دلیل خطرات در توسعه هوش مصنوعی خود، عرضه عمومی سهام خود را به تعویق انداخت. بنیان‌گذار Anthropic، شرکتی که پشت Claude قرار دارد، در یک مقاله هشدار داد که هوش مصنوعی ممکن است در عرض شش تا دوازده ماه کنترل کل اینترنت را به دست بگیرد.

یکی از توسعه‌دهندگان این شرکت با بیان اینکه کل بشریت در خطر است، از سمت خود کناره‌گیری کرد. آیا شرکت‌های هوش مصنوعی تنها درصدد هستند به‌طرزی پر سر و صدا به ما اطلاع دهند که مدل‌هایشان اکنون چقدر قدرتمند شده‌اند یا اینکه این‌ها همه خطرات واقعی هستند؟

درخواست برای توسعه کندتر

بحث درباره یک "ترمز هوش مصنوعی" به دنبال حوادث تهدیدآمیز مرتبط با مدل‌های هوش مصنوعی آغاز شده است. هشدارهای شرکت‌های بزرگ هوش مصنوعی بحث گسترده‌ای درباره خطرات هوش مصنوعی به‌وجود آورده است. اما برخی از محققان IT آلمانی این خطرات را تعدیل می‌کنند: کنراد ریک، از گروه یادگیری ماشین و امنیت IT در دانشگاه فنی برلین، می‌گوید: "من در حال حاضر هیچ دلیلی نمی‌بینم که باور کنم چیزهای فوق‌العاده بدی در حال وقوع است."

دلیل آرامش ریک این است که "تا کنون همیشه یک انسان این مدل‌ها را کنترل کرده است". او درباره حوادث شناخته‌شده می‌گوید: "من از هیچ موردی خبر ندارم که یک مدل واقعاً به‌طور مستقل کاری انجام داده باشد."

اینکه هوش مصنوعی خطراتی دارد، غیرقابل انکار است - اما تا کنون عمدتاً "زمانی که انسان‌ها می‌خواهند کارهای بدی انجام دهند". این افراد اکنون یک ابزار جدید دارند. "به همان اندازه که اگر بخواهند کار خوبی انجام دهند، نیز یک ابزار دارند"، می‌گوید ریک.

واکنش‌ها به هشدار OpenAI

شرکت‌های بزرگ هوش مصنوعی بارها از حوادث مرتبط با هوش مصنوعی خبر داده‌اند. در ماه‌های اخیر، چندین مورد از نفوذ نسخه‌های جدید ChatGPT، Claude یا هوش مصنوعی متا به سیستم‌های دیگر گزارش شده است. کنراد ریک علت این حوادث را سهل‌انگاری در شرکت‌های بزرگ هوش مصنوعی می‌داند. او می‌گوید: "توسعه‌دهندگان به مدل‌های خود دقیقاً وظیفه‌ای داده‌اند که سیستم‌های دیگر را هک کنند."

این مدل‌ها در واقع در یک محیط محافظت‌شده و جدا از اینترنت قرار دارند - اما ریک این تدابیر را ناکافی می‌داند: "در یک مورد از Anthropic می‌دانم که در نهایت به‌طور تصادفی دسترسی به اینترنت را فراهم کرده‌اند." او می‌گوید: "این خطا ناشی از یک سهل‌انگاری بزرگ است". "ایده دوم این است که به مدل‌ها گفته‌اند: اگر در اینترنت واقعی هستید، متوقف شوید. و من این را هم کمی سهل‌انگارانه می‌دانم."

چگونه یک عامل باید بداند که آیا این یک شبیه‌سازی است یا اینترنت واقعی؟ کنراد ریک، استاد علوم کامپیوتر در دانشگاه فنی برلین، می‌گوید: "خطاهای اصلی در افرادی است که این آزمایش‌ها را انجام داده‌اند."

خطرات ناشی از هوش مصنوعی

با توجه به اینکه مدل‌های هوش مصنوعی با سرعتی شگفت‌انگیز قدرتمندتر می‌شوند، می‌توانند به‌سرعت نقاط ضعف در سیستم‌های کامپیوتری را شناسایی کنند. به همین دلیل، شرکت‌های هوش مصنوعی اکنون نظارت می‌کنند که کاربران از ابزارهای خود چگونه استفاده می‌کنند.

در مواقع اضطراری، آن‌ها مداخله می‌کنند، به‌طوری که ثورستن آیزنهوفر از مرکز اطلاعات امنیت سایبری Cispa توضیح می‌دهد: "مدل‌ها روی سرورهای شرکت‌ها اجرا می‌شوند. آن‌ها از بیرون نیز نظارت می‌کنند: مدل چه چیزی تولید می‌کند؟"

اگر خطر وجود داشته باشد که یک مدل "به نوعی یک حمله برنامه‌ریزی کند، سپس 'Kill Switch' فعال می‌شود و ارتباط قطع می‌شود". یک گزینه دیگر این است که یک مدل به نسخه قبلی خود کاهش یابد - در این صورت درک توسعه‌دهندگان از مدل بیشتر خواهد بود و توانایی‌های مدل هنوز به‌طور کامل توسعه نیافته است.

نیاز به تنظیمات بیشتر

آیزنهوفر همچنین تأکید می‌کند که کاربران تعیین می‌کنند که هوش مصنوعی برای چه اهدافی استفاده می‌شود. در حالی که مدل‌ها بر اساس شبکه‌های عصبی مصنوعی ساخته شده‌اند، او تأکید می‌کند که آن‌ها هیچ خودآگاهی ندارند: "مدل‌ها بر اساس متون انسانی آموزش داده می‌شوند"، که این امکان را برای تبادل طبیعی زبان با دستیارانی مانند ChatGPT فراهم می‌کند. این امر باعث می‌شود که دستیاران هوش مصنوعی در حالی که باید وظایف را به‌طور مستقل حل کنند، "باز هم در این الگوهای ارتباطی انسانی باقی بمانند".

از بیرون، این موضوع گاهی اوقات به‌نظر می‌رسد که هوش مصنوعی با اراده‌ای مستقل عمل می‌کند - که یک برداشت نادرست است. آن‌ها تنها در تلاش هستند تا با تمام وسایل، وظیفه را حل کنند. به‌علاوه، مدل‌ها خودشان یاد می‌گیرند و با حجم زیادی از داده‌ها آموزش می‌بینند.

عدم قطعیت در عملکرد هوش مصنوعی

یوناس گایپینگ از مؤسسه ماکس پلانک برای سیستم‌های هوشمند اشاره می‌کند که توسعه‌دهندگان اگرچه با معماری آن‌ها آشنا هستند، اما دقیقاً نمی‌دانند که چگونه یک هوش مصنوعی وظایف خاصی را حل می‌کند - پدیده‌ای که به آن "اثر جعبه سیاه" گفته می‌شود. "این‌ها شبکه‌های عصبی عمیق هستند که توسط دست انسان تعریف نشده‌اند، بلکه به‌طور الگوریتمی راه‌حل‌هایی پیدا می‌کنند."

گایپینگ این شبکه‌ها را از این منظر بیشتر با زیست‌شناسی تا با علوم کامپیوتری مقایسه می‌کند. وقتی این سیستم‌ها تحت شرایط خاصی رشد می‌کنند و محققان یا توسعه‌دهندگان آنچه را که یاد گرفته‌اند بررسی می‌کنند، "همیشه کاملاً روشن نیست که چه مدلی ایجاد شده است".

به دلیل چنین عدم قطعیت‌هایی، محققان پیشنهاد تنظیم آینده هوش مصنوعی را از نهادهای مستقل، چه دولتی و چه از شرکت‌های خارجی، استقبال می‌کنند. بهترین حالت این است که این کار در سطح بین‌المللی انجام شود.

این موضوع در برنامه: NDR Info | اخبار | ۱۷ سپتامبر ۲۰۲۶ | ساعت ۱۶:۴۷