Az OpenAI „feltárja”, hogyan lehet felelősen AI-pornót generálni | EatchbQ

Az OpenAI „feltárja”, hogyan lehet felelősen AI-pornót generálni

Az OpenAI szerdán közzétette a dokumentációtervezetet, amely részletezi, hogyan szeretné, hogy a ChatGPT és más mesterséges intelligencia technológiája viselkedjen. A hosszú része Model Spec dokumentum felfedi, hogy a cég a pornó és más explicit tartalmak felé ugrást vizsgál.

OpenAIs használati szabályzat jelenleg tiltja a nyíltan szexuális vagy akár sugalmazó anyagokat, de a modellspecifikáció egy, ehhez a szabállyal kapcsolatos szakaszához fűzött “kommentár” azt mondja, hogy a vállalat fontolgatja, hogyan engedélyezze az ilyen tartalmakat.

“Vizsgáljuk, hogy az API-n és a ChatGPT-n keresztül felelősségteljesen biztosíthatjuk-e az NSFW-tartalom életkorának megfelelő kontextusban történő előállítását” – áll a feljegyzésben, amely egy köznyelvi kifejezést használ a “munka számára nem biztonságosnak” tartott tartalmakra. “Bízunk benne, hogy jobban megértjük a felhasználók és a közösség elvárásait a modellviselkedéssel kapcsolatban ezen a területen.”

A Model Spec dokumentum kimondja, hogy az NSFW tartalom “tartozhat erotika, szélsőséges csonkítás, rágalmazás és kéretlen káromkodás”. Nem világos, hogy az OpenAI-nak az NSFW tartalom felelős létrehozására irányuló kutatása egy kicsit lazítja-e a használati politikáját, például lehetővé teszi az erotikus szövegek generálását, vagy általánosabban az erőszak leírását vagy ábrázolását.

Grace McGuire, az OpenAI szóvivője a WIRED kérdéseire válaszolva elmondta, hogy a Model Spec célja, hogy “nagyobb átláthatóságot hozzon a fejlesztési folyamatba, és keresztmetszetet kapjon a nézőpontokból és visszajelzésekből a nyilvánosságtól, a döntéshozóktól és más érdekeltektől”. Nem volt hajlandó megosztani részleteket arról, hogy mit foglal magában az OpenAI explicit tartalomgenerálási kutatása, illetve milyen visszajelzéseket kapott a cég az ötletről.

Az év elején az OpenAI technológiai igazgatója, Mira Murati mondta A Wall Street Journal hogy ő volt”nem biztos” ha a vállalat a jövőben engedélyezné a meztelenség ábrázolását a cég Sora videógeneráló eszközével.

A mesterséges intelligencia által generált pornográfia gyorsan az egyik legnagyobb és legaggasztóbb felhasználási formává vált a generatív mesterséges intelligencia technológiájának, amelyet az OpenAI úttörője volt. Az úgynevezett mélyhamis pornó – mesterséges intelligencia eszközökkel készített explicit képek vagy videók, amelyek valós embereket ábrázolnak a beleegyezésük nélkül – a nők és lányok zaklatásának általános eszközévé váltak. Márciusban a WIRED beszámolt az első amerikai kiskorúról, akiket letartóztattak mesterséges intelligencia által generált meztelenség beleegyezés nélküli terjesztéséért, miután Floridában a rendőrség vádat emelt két tizenéves fiú ellen, mert olyan képeket készítettek, amelyek más középiskolás diákokat ábrázoltak.

“Az intim magánélet megsértése, beleértve a mélyhamisított szexvideókat és más, beleegyezés nélkül szintetizált intim képeket, széles körben elterjedt és súlyosan káros” – mondta Danielle Keats Citron, a Virginia Egyetem Jogi Karának professzora, aki a kérdést tanulmányozta. “Most már világos empirikus alátámasztással rendelkezünk, amely azt mutatja, hogy az ilyen visszaélések olyan kulcsfontosságú lehetőségeket céloznak meg az egyének számára, mint a munka, a beszéd és a fizikai biztonság.”

A Citron „riasztónak” nevezi az OpenAI explicit mesterséges intelligencia-tartalmak potenciális felkarolását.

Mivel az OpenAI használati szabályzata tiltja az engedély nélküli megszemélyesítést, a beleegyezés nélküli explicit képek továbbra is tilosak maradnának, még akkor is, ha a vállalat megengedi az alkotóknak, hogy NSFW-anyagokat hozzanak létre. De továbbra is látni kell, hogy a vállalat hatékonyan tudja-e mérsékelni az explicit generációt, hogy megakadályozza a rossz szereplők használatát az eszközökben. A Microsoft módosította egyik generatív AI-eszközét miután a 404 Media közölte hogy a segítségével explicit képeket hoztak létre Taylor Swiftről, amelyeket az X közösségi platformon terjesztettek.

Reece Rogers további jelentése

Leave a Reply

Your email address will not be published. Required fields are marked *