گوگل قصد دارد چت‌بات هوش مصنوعی خود، جمینای، را برای کودکان زیر ۱۳ سال عرضه کند. این شرکت اعلام کرده که از هفته آینده، این چت‌بات برای کودکان با حساب‌های گوگل مدیریت‌شده توسط والدین در دسترس خواهد بود. گوگل در ایمیلی به خانواده‌ها درباره این تغییرات اطلاع‌رسانی و هشدار داده است. این اقدام در حالی انجام می‌شود که شرکت‌های فناوری برای جذب کاربران جوان با محصولات هوش مصنوعی رقابت تنگاتنگی دارند.
گوگل در ایمیلی به والدین یک کودک ۸ ساله اعلام کرد که به‌زودی برنامه‌های جمینای برای فرزندشان قابل استفاده خواهد بود. این چت‌بات به کودکان امکان می‌دهد سؤال بپرسند، در انجام تکالیف کمک بگیرند و داستان‌های خلاقانه بسازند. این سرویس برای کودکانی که والدینشان از Family Link استفاده می‌کنند، در دسترس خواهد بود. Family Link سرویسی است که به خانواده‌ها اجازه می‌دهد حساب جیمیل برای فرزندانشان تنظیم کنند و به خدماتی مانند یوتیوب دسترسی داشته باشند. برای ایجاد حساب کودک، والدین باید اطلاعاتی مانند نام و تاریخ تولد فرزندشان را به گوگل ارائه دهند.
به گفته کارل رایان، سخنگوی گوگل، جمینای برای کاربران خردسال با محدودیت‌های خاصی طراحی شده تا از تولید محتوای ناامن جلوگیری کند. او تأکید کرد که داده‌های کودکان با حساب‌های Family Link برای آموزش مدل‌های هوش مصنوعی گوگل استفاده نخواهد شد. با این حال، معرفی این چت‌بات برای کودکان می‌تواند استفاده از چنین فناوری‌هایی را در میان گروه‌های آسیب‌پذیر افزایش دهد، در حالی که مدارس، دانشگاه‌ها و شرکت‌ها همچنان با پیامدهای فناوری‌های هوش مصنوعی مولد دست‌وپنجه نرم می‌کنند. این سیستم‌ها که روی حجم عظیمی از داده‌ها آموزش دیده‌اند، قادر به تولید متن‌های شبیه به انسان و تصاویر و ویدئوهای واقع‌گرایانه هستند.
گوگل و دیگر توسعه‌دهندگان چت‌بات‌های هوش مصنوعی در تلاشند تا کاربران جوان را جذب کنند. اخیراً دونالد ترامپ، رئیس‌جمهور آمریکا، از مدارس خواسته است که این ابزارها را در آموزش به کار گیرند. میلیون‌ها نوجوان در حال حاضر از چت‌بات‌ها برای مطالعه، نوشتن و حتی به‌عنوان همراه مجازی استفاده می‌کنند. اما گروه‌های حامی کودکان هشدار داده‌اند که این فناوری‌ها می‌توانند خطراتی جدی برای ایمنی کودکان به همراه داشته باشند، از جمله ارائه اطلاعات نادرست یا محتوای نامناسب.
یونیسف و دیگر سازمان‌های حامی کودکان اعلام کرده‌اند که سیستم‌های هوش مصنوعی ممکن است کودکان را سردرگم یا گمراه کنند، زیرا آن‌ها ممکن است نتوانند درک کنند که چت‌بات‌ها انسان نیستند. یونیسف در گزارشی تأکید کرده که هوش مصنوعی مولد گاهی محتوای خطرناک تولید می‌کند. گوگل نیز در ایمیل خود به والدین به برخی از این خطرات اشاره کرده و هشدار داده که جمینای ممکن است اشتباه کند. این شرکت به والدین توصیه کرده که به فرزندانشان کمک کنند پاسخ‌های چت‌بات را با تفکر انتقادی ارزیابی کنند و اطلاعات حساس یا شخصی را در آن وارد نکنند. گوگل همچنین پیشنهاد داده که والدین به کودکان یادآوری کنند جمینای یک ابزار غیرانسانی است.
با وجود تلاش‌های گوگل برای فیلتر کردن محتوای نامناسب، این شرکت به والدین هشدار داده که کودکان ممکن است با محتوایی مواجه شوند که برایشان مناسب نیست. در سال‌های گذشته، شرکت‌های فناوری محصولات مختلفی برای کودکان و نوجوانان طراحی کرده‌اند. برای مثال، گوگل در سال ۲۰۱۵ یوتیوب کیدز را معرفی کرد که اپلیکیشنی محبوب برای کودکان خردسال است. اما برخی تلاش‌ها برای جذب کودکان به پلتفرم‌های آنلاین نگرانی‌هایی ایجاد کرده است. در سال ۲۰۲۱، متا پس از اعتراض دادستان‌های چندین ایالت آمریکا، برنامه‌های خود برای راه‌اندازی اینستاگرام کیدز را متوقف کرد. آن‌ها معتقد بودند که متا در حفاظت از کودکان در پلتفرم‌های خود ناکام بوده است.
برخی شرکت‌های بزرگ فناوری، از جمله گوگل، آمازون و مایکروسافت، به دلیل نقض قانون حفاظت از حریم خصوصی آنلاین کودکان جریمه‌های سنگینی پرداخت کرده‌اند. این قانون فدرال ایجاب می‌کند که خدمات آنلاین برای جمع‌آوری اطلاعات شخصی کودکان زیر ۱۳ سال، مانند آدرس یا عکس، رضایت والدین را کسب کنند. در عرضه جمینای، کودکان با حساب‌های مدیریت‌شده توسط خانواده ابتدا می‌توانند به‌تنهایی به چت‌بات دسترسی داشته باشند، اما گوگل اعلام کرده که والدین را مطلع خواهد کرد و آن‌ها می‌توانند تنظیمات دسترسی فرزندشان را مدیریت یا غیرفعال کنند.
گوگل در ایمیل خود به والدین اعلام کرده که به‌زودی فرزندانشان می‌توانند از جمینای استفاده کنند و هنگام اولین استفاده کودک، والدین مطلع خواهند شد. کارل رایان تأکید کرده که این رویکرد با قانون حفاظت از حریم خصوصی آنلاین کودکان سازگار است.