Ειδικοί καλούν την Google να απαγορεύσει βίντεο AI για παιδιά στο YouTube

Η Google της Alphabet Inc. δέχεται αυξανόμενη πίεση από ειδικούς στην ανάπτυξη των παιδιών να σταματήσει να προβάλλονται ή να προτείνονται σε παιδιά στο YouTube και το YouTube Kids βίντεο που δημιουργούνται με AI.

Την Τετάρτη, πάνω από 200 ειδικοί, οργανώσεις και εκπαιδευτικά ιδρύματα έστειλαν επιστολή στον CEO της Google Sundar Pichai και στον CEO του YouTube Neal Mohan, εκφράζοντας ανησυχίες για την εκπαιδευτική αξία και την ποιότητα των βίντεο με AI που απευθύνονται σε μικρούς θεατές.

«Υπάρχουν πολλά που δεν γνωρίζουμε σχετικά με τις συνέπειες του περιεχομένου με AI για τα παιδιά», ανέφερε η επιστολή.

«Το YouTube συμμετέχει σε αυτό το ανεξέλεγκτο πείραμα προωθώντας περιεχόμενο που δημιουργείται με AI χωρίς έρευνες που να αποδεικνύουν τα οφέλη του και χωρίς να λαμβάνει υπόψη τις αρχές ανάπτυξης του παιδιού, οι οποίες υποδηλώνουν ότι είναι πιθανό να είναι βλαπτικό».

Στήριξη από εξέχουσες προσωπικότητες και οργανώσεις

Μεταξύ των υπογραφόντων ήταν ο κοινωνικός ψυχολόγος Jonathan Haidt, συγγραφέας του The Anxious Generation, ομάδες υπεράσπισης των παιδιών όπως οι Fairplay και η National Alliance to Advance Adolescent Health, η American Federation of Teachers και αρκετά σχολεία.

Ζήτησαν από το YouTube να σταματήσει κάθε επένδυση στη δημιουργία βίντεο με AI για παιδιά.

Έκρηξη του περιεχομένου με AI στο YouTube

Τα βίντεο που δημιουργούνται με AI έχουν γνωρίσει μεγάλη άνοδο σε δημοτικότητα, ιδίως το περιεχόμενο σχεδιασμένο για νήπια και μικρά παιδιά.

Οι δημιουργοί συχνά βασίζονται σε εργαλεία AI για να παράγουν βίντεο πιο γρήγορα και οικονομικά, με μερικούς μάλιστα να μοιράζονται οδηγούς για το πώς να αποκομίσουν έσοδα από τέτοιο περιεχόμενο για μικρούς θεατές.

Το YouTube έχει αναγνωρίσει την ανάγκη διαχείρισης του «AI slop» και διατήρησης μιας ασφαλούς εμπειρίας χρήστη.

Σύμφωνα με τους ειδικούς, η εταιρεία απαιτεί από τους δημιουργούς να χαρακτηρίζουν το συνθετικό ή τροποποιημένο περιεχόμενο και ισχυρίζεται ότι τα συστήματά της επιβάλλουν κυρώσεις σε spam ή χαμηλής ποιότητας παραγωγές.

Οι ομάδες υπεράσπισης, ωστόσο, υποστήριξαν ότι τέτοιες ετικέτες δεν είναι πιθανό να έχουν νόημα για τα προαναγνωστικά παιδιά, που αποτελούν σημαντικό μέρος του κοινού στο οποίο στοχεύει το περιεχόμενο με AI.

Απάντηση του YouTube

Το YouTube έχει υπερασπιστεί τις πολιτικές του, δηλώνοντας ότι διατηρεί υψηλά πρότυπα για το περιεχόμενο στο YouTube Kids και περιορίζει το περιεχόμενο που δημιουργείται με AI.

Η πλατφόρμα απαιτεί επίσης από τους χρήστες να επισημαίνουν βίντεο τροποποιημένα με AI και έχει λάβει μέτρα κατά του spam περιεχομένου που δημιουργείται με χρήση AI.

Ο CEO του YouTube Neal Mohan δήλωσε προηγουμένως ότι η διαχείριση του περιεχομένου με AI είναι πρώτη προτεραιότητα.

Εντεινόμενος έλεγχος των κοινωνικών δικτύων

Η επιστολή της Τετάρτης έρχεται εν μέσω ευρύτερων προσπαθειών να μεταρρυθμιστεί ο αντίκτυπος των πλατφορμών κοινωνικής δικτύωσης στα παιδιά.

Τον Μάρτιο, μια ιστορική δίκη με ένορκους για τον εθισμό στα κοινωνικά μέσα έκρινε την Google και τη Meta Platforms Inc. υπεύθυνες για τη βλάβη μιας νεαρής χρήστριας από προϊόντα σχεδιασμένα να την κρατούν ενεργή online.

Και οι δύο εταιρείες έχουν ανακοινώσει σχέδια για έφεση, αλλά οι ενάγοντες, οι υπερασπιστές των καταναλωτών και οι νομοθέτες πλέον πιέζουν για αλλαγές σε μερικά από τα πιο κερδοφόρα χαρακτηριστικά τους, συμπεριλαμβανομένων των αλγορίθμων προτάσεων περιεχομένου.

Οι επικριτές επίσης επισημαίνουν την πρόσφατη επένδυση της Google στην Animaj, ένα στούντιο κινουμένων σχεδίων με AI που παράγει περιεχόμενο για παιδιά, ως πηγή ανησυχίας.

Υποστηρίζουν ότι η έκθεση νηπίων σε βίντεο που δημιουργούνται με AI μέσω τέτοιων καναλιών μπορεί να επιδεινώσει τους κινδύνους για την προσοχή, τη μάθηση και την κοινωνική ανάπτυξη.