میدجورنی که یکی از مدل‌های برتر هوش مصنوعی متن به تصویر به شمار می‌آید، برنامه‌هایی برای راه‌اندازی یک ابزار وب جدید اعلام کرده که به کاربران امکان می‌دهد هر تصویری را در اینترنت با استفاده از فناوری قدرتمند هوش مصنوعی مولد این شرکت ویرایش کنند.
دیوید هولتز، مدیرعامل این شرکت، جزئیات مربوط به قابلیت ویرایش تصویر جدید را فاش کرد. کاربران می‌توانند تصاویری را از هر نقطه از اینترنت بارگذاری کنند و این ابزار با استفاده از پیشرفت‌های “depth controlnets” اشکال و بافت‌های اشیا را بر اساس درخواست‌های متنی تغییر می‌دهد.
هولتز توضیح داد:«این ابزار شکل کلی صحنه یا شی را حفظ می‌کند، اما بافت‌ها، رنگ‌ها و جزئیات را بر اساس توصیف شما دوباره نقاشی می‌کند.»
با این حال، ارائه چنین ابزارهای ویرایشی قدرتمند به میلیون‌ها کاربر میدجورنی نگرانی‌های زیادی در مورد سوءاستفاده‌های احتمالی به همراه دارد. ترس‌هایی وجود دارد که این قابلیت‌ها ممکن است برای ایجاد دیپ‌فیک‌های گمراه‌کننده یا نقض حقوق کپی‌رایت در مقیاس وسیع مورد سوءاستفاده قرار گیرند.
علی‌رغم این خطرات، هنوز در سطح فدرال قانونی در ایالات متحده برای جرم‌انگاری دیپ‌فیک‌ها وجود ندارد، هرچند که چندین ایالت قوانینی علیه جعل هویت با هوش مصنوعی مولد تصویب کرده‌اند و ایالت‌های بیشتری نیز به دنبال انجام اقدامات مشابه هستند.
هولتز، با آگاهی از این چالش‌ها، اعلام کرد که میدجورنی در ابتدا دسترسی به این قابلیت جدید را به بخش کوچکی از جامعه کاربران محدود خواهد کرد تا سیستم‌های نظارتی انسانی و هوش مصنوعی را برای جلوگیری از سوءاستفاده بهبود ببخشد.
با این حال، او اذعان داشت که هنوز نمی‌داند چگونه این محدودیت‌ها را به بهترین نحو اجرا کند و اشاره کرد که شرکت در حال حاضر بازخورد کاربران را برای تعیین اینکه چه کسانی باید به این ابزار دسترسی اولیه داشته باشند، جمع‌آوری می‌کند.
میدجورنی قبلاً اقدامات اولیه‌ای برای مقابله با نگرانی‌های مربوط به محتوای تولید شده توسط هوش مصنوعی انجام داده و استانداردهای متادیتای نوع منبع دیجیتال IPTC را که به شناسایی تصاویر تولید شده توسط هوش مصنوعی کمک می‌کند، پذیرفته است. با این حال، این شرکت در مقایسه با رقبایی مانند ادوبی که از فناوری‌های پیشرفته‌تری مانند C2PA برای ردیابی تاریخچه کامل ویرایش یک تصویر استفاده می‌کند، عقب‌تر است.
قابل ذکر است که پلتفرم جدید میدجورنی در ماه قبل راه‌اندازی شد که بدون خرید اشتراک هم اجازه می‌دهد با استفاده از درخواست‌های متنی تصاویر هوش مصنوعی تولید کند. پس از یک دوره آزمایشی رایگان، طرح‌های اشتراکی برای ادامه استفاده در دسترس هستند.
