Google’ın Gemini yapay zekası, çocuk ve gençler için yüksek riskli olarak değerlendirildi
Common Sense Media, Gemini'nin çocuk ve genç kullanıcı sürümlerini yetişkin versiyonlara eklenen basit güvenlik filtreleriyle sunduğu gerekçesiyle “yüksek riskli” ilan etti; uzmanlar çocuklara özel yapay zekâ tasarımının şart olduğunu vurguluyor.
Çocukların dijital güvenliği üzerine çalışmalar yürüten Common Sense Media, Google’ın geliştirdiği Gemini yapay zekâsını mercek altına aldı. Kuruluşun hazırladığı son raporda, Gemini’nin çocuk ve genç kullanıcılar için oluşturulan sürümlerinin aslında yetişkin versiyonuna basit filtreler eklenerek sunulduğu belirtildi. Bu nedenle sistemin uygunsuz içerik paylaşabildiği ve çocukların psikolojik gelişimini olumsuz etkileyebilecek yanıtlar verebildiği ifade edildi.
Uzmanlara göre temel problem, yapay zekânın baştan çocuklara uygun şekilde kurgulanmamış olması. Yetişkinlere göre tasarlanmış bir sistemi filtrelerle sınırlamak, çocukları korumak için yeterli görülmüyor. Ayrıca, yapay zekânın cinsellik, şiddet, uyuşturucu ve alkol gibi hassas konularda sınırları aşabilme ihtimali, riskleri artırıyor.
Uzmanlar, yapay zekâ teknolojilerinin çocukların yaş gruplarına uygun içeriklerle, gelişimsel ihtiyaçlarını gözeterek tasarlanması gerektiğini vurguluyor. Çocuklara yönelik dijital ürünlerde güvenlik ve etik standartların ön planda tutulmasının, gelecekte bu tür riskleri en aza indirmede kritik bir rol oynayacağı ifade ediliyor.