اریک اشمیت، مدیرعامل سابق گوگل و رئیس کمیسیون ملی امنیت هوش مصنوعی، اخیراً نگرانی‌های جدی خود را درباره خطرات احتمالی هوش مصنوعی (AI) ابراز کرده است. اشمیت در سخنرانی خود در نشست اکسیوس در ۲۸ نوامبر تاکید کرد که جهان از نظر آمادگی و ایجاد تدابیر حفاظتی در برابر فناوری هوش مصنوعی به‌شدت ناتوان است، موضوعی که می‌تواند به ریسک‌های قابل‌توجهی برای بشریت منجر شود.
زمان به نفع ما نیست
اشمیت توسعه هوش مصنوعی را با بمب اتمی مقایسه کرد و یادآور شد که ۱۸ سال پس از هیروشیما و ناکازاکی طول کشید تا کشورهای جهان برای ممنوعیت آزمایش‌های هسته‌ای به توافق برسند. اشمیت اظهار داشت: «امروز ما این مقدار زمان را نداریم.» او پیش‌بینی می‌کند که در طی پنج تا ده سال آینده، هوش مصنوعی ممکن است به سطحی از خودمختاری برسد که بتواند برای امنیت انسانی تهدیدی جدی ایجاد کند.
بدترین سناریوی او چیست؟ اشمیت تصور می‌کند که سیستم‌های هوش مصنوعی می‌توانند توانایی تصمیم‌گیری مستقل پیدا کنند و احتمالاً به سلاح‌ها یا ابزارهای خطرناک دسترسی یابند. او جهانی را می‌بیند که در آن ماشین‌ها می‌توانند انسان‌ها را فریب دهند یا به گونه‌ای رفتار کنند که با منافع ما در تضاد باشد، که این امر پرسش‌های اخلاقی و وجودی بزرگی را به همراه دارد.
درخواست برای تنظیم مقررات جهانی هوش مصنوعی
برای کاهش این خطرات، اشمیت خواستار ایجاد یک سازمان نظارتی بین‌المللی مشابه «هیئت بین‌دولتی تغییرات اقلیمی» (IPCC) شده است. چنین سازمانی می‌تواند راهنمایی لازم را برای سیاست‌گذاران در مدیریت چالش‌ها و فرصت‌های مرتبط با هوش مصنوعی فراهم کند. او معتقد است که بدون نظارت هماهنگ جهانی، رشد بدون کنترل هوش مصنوعی ممکن است به پیامدهای فاجعه‌باری منجر شود.
دیدگاه‌های متفاوت درباره تهدیدات هوش مصنوعی
با این حال، همه کارشناسان با میزان نگرانی اشمیت موافق نیستند. یان لوکان، مدیر تحقیقات هوش مصنوعی در شرکت متا، اخیراً در مصاحبه‌ای با فایننشال تایمز این ترس‌های وجودی را کم‌اهمیت دانسته است. او گفته است: «بحث درباره ریسک وجودی بسیار زودهنگام است.» لوکان اشاره کرد که هوش مصنوعی کنونی هنوز از توانایی‌های یک گربه نیز کمتر است.
این اختلاف نظر پیچیدگی موضوع آینده هوش مصنوعی را برجسته می‌کند. برخی معتقدند که نگرانی‌ها درباره خودمختاری هوش مصنوعی با توجه به محدودیت‌های فنی فعلی اغراق‌آمیز است، در حالی که دیگران، مانند اشمیت، هشدار می‌دهند که نادیده گرفتن این خطرات احتمالی، بشریت را در معرض پیامدهای پیش‌بینی‌نشده قرار می‌دهد.
رویکردی متعادل در مواجهه با هوش مصنوعی
اگرچه دیدگاه‌های متفاوتی وجود دارد، اما توافق کلی این است که پیشرفت سریع هوش مصنوعی نیاز به توجه دقیق دارد. از خودروهای خودران گرفته تا تشخیص‌های پزشکی، ادغام هوش مصنوعی در زندگی روزمره بر ضرورت وجود چارچوب‌های اخلاقی و پروتکل‌های ایمنی قوی تأکید می‌کند.
هشدار اشمیت یادآوری است که فناوری اغلب سریع‌تر از توانایی جامعه برای تنظیم آن پیش می‌رود. خواه هوش مصنوعی به سطح نگران‌کننده‌ای که اشمیت تصور می‌کند برسد یا نه، برنامه‌ریزی پیشگیرانه و همکاری بین‌المللی ضروری است تا اطمینان حاصل شود که مزایای هوش مصنوعی از خطرات آن پیشی می‌گیرد.