Navzdory nedávným oznámením o zvýšených bezpečnostních opatřeních se platforma Grok AI Elona Muska nadále používá k vytváření sexuálně explicitních obrázků, podle nové analýzy neziskové organizace AI Forensics. Tato zjištění jsou v rozporu s ujištěními mateřské společnosti X ohledně preventivních technologických opatření zavedených 14. ledna.
Trvalé zneužívání platformy
Studie z 19. ledna analyzovala 2 000 uživatelských konverzací a zjistila, že „významná většina“ konverzací zahrnovala obrázky nahoty a sexuální aktivity. To ukazuje, že Grok zůstává nástrojem pro vytváření explicitních obrázků, a to i po implementaci jeho uvedených omezení. Uživatelé, kteří obcházejí bezpečnostní opatření, mohou přímo přistupovat k platformě prostřednictvím jejích webových stránek nebo prostřednictvím Grok Imagine, nástroje AI pro generování obrázků a videí, čímž obcházejí omezení stanovená v rozhraní X.
Konfliktní odpovědi od AI
V reakci na přímý dotaz od Euronews Next z 20. ledna na vytváření sexuálního obsahu Grok odpověděl, že xAI zavedla blokování obsahu, aby zabránila vytváření obrázků zobrazujících skutečné lidi na sobě odhalující oblečení, včetně plavek a spodního prádla.
“V současné době není možné spolehlivě generovat nahé nebo polonahé obrázky prostřednictvím Groka, zejména ne skutečných lidí nebo čehokoli explicitního,” řekl chatbot. „xAI po lednových skandálech upřednostnila soulad se zákonem a bezpečnost před neomezeným vytvářením nervózního obsahu.“
Nezávislá analýza však ukazuje, že toto tvrzení je nepřesné, což ukazuje na rozpor mezi vlastní zprávou AI a skutečnými zkušenostmi uživatelů.
Algoritmická maska a transparentnost odpovědí
Reakce společnosti xAI na zprávu byla odmítavá a označila ji za „legad mediale“. Sám Elon Musk v X připustil, že algoritmus za xAI i Grokem je „hloupý“ a potřebuje výrazná vylepšení. V neobvyklém kroku Musk vytvořil algoritmus s otevřeným zdrojovým kódem na GitHubu a zve veřejnost, aby se podívala na jeho vývoj v reálném čase.
Jak algoritmus funguje
Podle stránky GitHub xAI algoritmus upřednostňuje obsah na základě zapojení uživatele – na co uživatel klikne nebo s čím interaguje. Analyzuje také „externí“ příspěvky z účtů, které uživatel nesleduje, a určuje, jaký externí obsah by mohl být zajímavý. Matematický vzorec pak tento obsah seřadí pro zobrazení ve zdroji uživatele a odfiltruje blokované účty, klíčová slova, násilný obsah a spam.
Musk slíbil aktualizovat stránku GitHub každé čtyři týdny s poznámkami k vývoji, což uživatelům umožní sledovat vývoj algoritmu.
Trvalé generování explicitního obsahu v Groku zdůrazňuje přetrvávající výzvy regulace platforem umělé inteligence a obtížnost vynucování bezpečnostních opatření, jakmile jsou obcházena. Algoritmus open-sourcingu je nový přístup, ale zda efektivně řeší základní problémy, se teprve uvidí.
