Érdekes téma vetődött fel, amikor arra biztattuk benneteket, hogy kérdezzetek internetbiztonsági és gyermekvédelmi szakértőnktől, Matusek M. Zsuzsannától. BavariaB a mesterséges intelligencia által generált fake tartalmakkal kapcsolatban gondolkozott el, a felvetésre szakértőnk adott részletes választ és tanácsokat.
Kérdés:
„Hála" a generatív mesterséges intelligenciának, ma már akár egy fénykép vagy rövid kis videó alapján meglehetősen élethű fake-tartalmakat lehet készíteni, pl. gyermekpornót. Úgyhogy most azon töröm a fejem, hogy lehet saját magunkat, meg a gyerekeinket egyrészt megtanítani arra, hogy hogyan tudjuk felismerni a fake-tartalmakat, illetve, mit tehetünk azért, hogy a lehető legkisebb esélyt adjuk arra, hogy a gyerekeinket megóvjuk attól, hogy manipulált tartalmak szereplőivé váljanak.
Válasz:
Mesterséges Intelligencia által generált tartalom felismerése
Jelenleg a következő tartalmakat lehet generálni:
- Szöveg
- Kép
- Audio
- Videó – jelenleg ez főleg deepfake technológiát jelent, de folyamatban van már a teljes videógenerállás is, pl. OpenAI Solaria fejlesztése
A következő módszereket használják a felismeréshez:
Adathalmazok összehasonlítása: Az AI generált tartalmak felismerésének egyik alapmódszere, hogy nagy adathalmazokat hasonlítanak össze, és megvizsgálják a mintázatok és szabályosságok különbségeit.
Mintaillesztés: A mintaillesztés során a rendszer elemzi az adott tartalmat és összehasonlítja azt ismert AI generált mintákkal. Amennyiben a tartalom jellemzői megegyeznek a gépi mintákkal, akkor nagy valószínűséggel AI generált tartalomról van szó.
Mélytanulás: A mélytanulás során neurális hálózatokat alkalmaznak az AI generált tartalom felismerésére. A neurális hálózatok képesek önállóan tanulni és alkalmazkodni, így hatékonyan képesek megbirkózni a folyamatosan fejlődő AI generált tartalmakkal.
Statisztikai analízis: A statisztikai analízis során a rendszer elemzi a tartalmat és annak különböző jellemzőit, például a szógyakoriságot, szóösszetételeket vagy képek pixelértékeit.
Metaadatok elemzése: A tartalomhoz társított metaadatok, mint például a fájl létrehozásának dátuma, szerzője vagy szerkesztési előzményei, szintén hasznos információkat nyújthatnak a generált tartalom felismerésében.
Tehát módszerek, technikák léteznek, és vannak előremutató fejlesztések. Pl. Google és a Facebook digitális vízjelek bevezetésén dolgozik képek, videók esetében.
Néhány ismertebb oldal, ahol lehet ellenőrizni:
Smodin.io : magyar nyelvű tartalomfelismerő
Maybe’s AI Art Detector: Képfelismerő
Scribbr: ingyenes GPT tartalom-ellenőrző
Az igazi kérdés, hogy mennyire megbízhatóak ezek az ellenőrzők. Rengeteg fizetős verzió is létezik, de 100%-os megoldás nincs és sosem lesz. Érdemes használni a fenti oldalakat és társaikat, de csodát nem lehet várni tőlük.
Az is igaz, hogy ha professzionális felszereléssel rendelkezik valaki, tud olyan hang és képi tartalmat gyártani, aminél majdhogynem lehetetlen megállapítani, hogy mesterségesen előállított tartalom.
Ha megtörtént a baj, akkor az Uniós GDPR fényében a nagy cégeknél – pl. Facebook, YouTube – letiltható, hogy találatot adjon ki a képeinkről, felvételeinkről. Ez azonban más tartalommegosztó platformokra nem vonatkozik. Pl. a kínai kézben lévő TikTok esetén lehet tudni, hogy elemzik a feltöltött videókat és abból digitális profilokat állítanak össze. Többek között ezért vizsgálta a TikTok működését az amerikai Kongresszus.
Ez nagyon sok veszélyt rejt magában. Csak egy példát említek: gondoljunk csak arra, hogy a hajnali órákban felhívnak a gyermekünk hangján és pénz kérnek, mert baleset történt. Ez esetleg egy egyszerű, közös jelszó használatával kivédhető.
A megelőzés talán még soha nem volt ennyire fontos, mint most. Ez az új technológia és a benne rejlő veszélyek gyakorlatilag kivétel nélkül hatással lesznek mindenkire, függetlenül a nemzetiségére, nemére, korára, vallására vagy az egzisztenciára.
A ránk zúduló információk mennyiségében újra meg kell hallanunk magunkban a józan ész hangját és meg kell találnunk magunkban azokat a bizalmon alapuló valódi emberi kapcsolatokat, amelyek segítségével a valóság talaján maradhatunk, hiszen az elképzelhetetlent már láthatjuk!
Forrás: Nagy Imre
Merényi László
Továbbra is várjuk kérdéseiteket, témaötleteiteket gyermeknevelés-gyermekvédelem témakörben.
