شرکت OpenAI، که در زمینه هوش مصنوعی فعالیت می‌کند و رهبر بازار هوش مصنوعی مولد به شمار می‌آید، اعلام کرد که همزمان با آغاز آموزش مدل هوش مصنوعی جدید خود، کمیته‌ای برای امنیت و ایمنی تشکیل داده است. این کمیته توسط مدیرعامل این شرکت، سم آلتمن، رهبری خواهد شد.
اعضای هیئت مدیره OpenAI شامل برت تیلور، آدام دی‌آنجلو و نیکول سالیگمن نیز در راس این کمیته قرار خواهند گرفت. این خبر روز سه‌شنبه از طریق وبلاگ شرکت اعلام شد.
لازم به ذکر است که ایلیا ساتسکیور، رئیس پیشین بخش علوم‌پایه و جان لِیک، رهبر پیشین گروه «هم‌راستاسازی (Superalignment)» در این سازمان که وظیفه‌اش اطمینان از همسویی هوش مصنوعی با اهداف مورد نظر بود، اوایل این ماه از OpenAI جدا شده‌اند.
چند روز پس از خروج این افراد برجسته OpenAI تیم هم‌راستاسازی را که کمتر از یک سال پیش راه‌اندازی کرده بود، منحل کرد و برخی از اعضای این تیم به گروه‌های دیگر منتقل شدند.
وظایف کمیته امنیت و ایمنی در OpenAI
این کمیته مسئولیت ارائه پیشنهاد به هیئت مدیره در مورد تصمیمات امنیتی و ایمنی پروژه‌ها و عملیات OpenAI را بر عهده خواهد داشت.
اولین وظیفه این کمیته ارزیابی و توسعه بیشتر شیوه‌های ایمنی موجود OpenAI طی ۹۰ روز آینده است. پس از آن، این کمیته یافته‌های خود را با هیئت مدیره به اشتراک خواهد گذاشت.
OpenAI اعلام کرد پس از بررسی هیئت مدیره، به‌روزرسانی در مورد توصیه‌های پذیرفته شده به صورت عمومی هم منتشر خواهد شد.
اعضای دیگر این کمیته شامل کارشناسان فنی و سیاسی OpenAI مانند آلکساندر مِدری، لیلیان وِنگ و رئیس بخش هماهنگی علوم، جان شولمن هستند. یاکوب پاچوکی، رئیس جدید بخش علوم‌پایه و مت کِنیت، رئیس بخش امنیت، نیز در این کمیته حضور خواهند داشت.
