AI w rękach dzieci: jakie zagrożenia widzą najmłodsi

Dzieci w wieku 8-12 lat korzystają z generatywnej AI, głównie do: zadawania pytań, tworzenia historii i obrazów oraz pomocy w nauce.

Najmłodsi wykazują duże zainteresowanie technologią, ale często nie rozumieją, jak ona działa. Zauważyły także, że AI może „zmyślać” odpowiedzi, co spowodowało obawy, że mogą uwierzyć w coś nieprawdziwego, jeśli nie będą ostrożne. Niektóre dzieci mówiły, że AI może pokazać dziwne lub niepokojące obrazy, dlatego obawiały się, że mogą zobaczyć coś, czego nie chciałyby oglądać. 

Dzieci wskazywały, że AI może być „zbyt fajna” i że mogą spędzać z nią za dużo czasu. Obawiały się, że mogą przestać robić inne rzeczy, jak zabawa na dworze czy spotkania z przyjaciółmi. Zarazem czuły, że rozmowy z AI są „puste” lub „nieludzkie”.  

Niektóre dzieci zastanawiały się, czy AI je podsłuchuje lub czy zapamiętuje to, co mówią. Pojawiły się pytania o to, kto ma dostęp do ich danych. 

Raport uwzględnia także kwestie reprezentacji rasowej i różnorodności, choć nie są one głównym tematem badania. W ramach warsztatów dzieci zwracały uwagę na brak reprezentacji różnych kolorów skóry, kultur i tożsamości w generowanych przez AI obrazach i treściach. Obrazy generowane przez AI często przedstawiały osoby o jasnej karnacji, co dzieci uznały za niesprawiedliwe lub nieodzwierciedlające rzeczywistości. Niektóre dzieci mówiły, że „AI nie pokazuje ludzi, którzy wyglądają jak ja”, co może wpływać na ich poczucie tożsamości i przynależności. Pojawiły się też pytania o to, kto decyduje, jak wyglądają obrazy tworzone przez AI i czy AI może być uprzedzona.

Niepokoje rodziców

Raport wskazał także na obawy rodziców, które dotyczą: braku kontroli nad treściami, które dzieci mogą uzyskać podczas korzystania ze sztucznej inteligencji. Rodzice wskazywali także na możliwości uzależnienia od AI a także zastępowania kontaktów społecznych interakcjami z AI. Właściwie obawy rodziców pokryły się z obawami samych dzieci. 

Wyniki badań prowadzą do wniosku potrzeby edukacji cyfrowej wśród najmłodszych, dzięki której dzieci będą wiedziały jak rozpoznawać dezinformację generowaną przez AI, jak bezpiecznie korzystać z narzędzi AI oraz w jaki sposób zachować krytyczne myślenie wobec odpowiedzi AI.

Raport rekomenduje projektowanie AI z myślą o dzieciach, uwzględniając ich potrzeby, emocje i poziom rozwoju. Sugeruje także stosowanie zasad etyki dziecięcej w projektowaniu narzędzi AI. Ponadto zachęca aby dzieci miały głos w tym, jak AI jest tworzona i wdrażana. Proces ten wymaga także konsultacji z rodzicami, nauczycielami i ekspertami od rozwoju dziecka.  

Wskazano również potrzebę wsparcia dla szkół i nauczycieli, która obejmowałaby tworzenie materiałów edukacyjnych i szkoleń z zakresu AI oraz opracowanie wytycznych dotyczących bezpiecznego użycia AI w klasie.