Meta’s Övervakningsnämnd har återigen tagit sig an det sociala nätverkets regler för AI-genererat innehåll i två fall som rör explicita bilder på offentliga personer. Trots att Metas regler redan förbjuder nakenhet på Facebook och Instagram vill nämnden enligt ett uttalande adressera om ”Metas policys och dess handhavande är effektiva för att hantera explicit AI-genererad bildgivning.” Med de två fallen kan Övervakningsnämnden driva Meta att anta nya regler för att hantera sådan trakasseri på plattformen.
ANNONS:
Ett av fallen involverar en Instagram-post som visar en AI-genererad bild av en naken indisk kvinna som publicerades av ett konto som ”endast delar AI-genererade bilder av indiska kvinnor.” Inlägget rapporterades till Meta, men rapporten stängdes efter 48 timmar eftersom den inte granskades. Samma användare överklagade beslutet men överklagan stängdes också och granskades aldrig. Meta tog slutligen bort inlägget efter att användaren överklagat till Övervakningsnämnden och nämnden gick med på att ta upp fallet
Det andra fallet involverade ett Facebook-inlägg i en grupp dedikerad till AI-konst. Det ifrågasatta inlägget visade ”en AI-genererad bild av en naken kvinna med en man som klämmer på hennes bröst.” Kvinnan var menad att likna ”en amerikansk offentlig person” vars namn också fanns i bildtexten. Inlägget togs automatiskt bort eftersom det tidigare rapporterats och Metas interna system kunde matcha det med det tidigare inlägget. Användaren överklagade beslutet att ta bort det, men överklagan ”stängdes automatiskt.” Användaren överklagade sedan till Övervakningsnämnden, som gick med på att överväga fallet.
I ett uttalande säger övervakningsnämndens medordförande Helle Thorning-Schmidt att nämnden tog upp de två fallen från olika länder för att bedöma potentiella skillnader i hur Metas policys genomförs. ”Vi vet att Meta är snabbare och mer effektivt när det gäller att moderera innehåll på vissa marknader och språk än på andra,” säger Thorning-Schmidt. ”Genom att ta ett fall från USA och ett från Indien vill vi undersöka om Meta skyddar alla kvinnor globalt på ett rättvist sätt.”
Övervakningsnämnden begär allmänna kommentarer under de närmaste två veckorna och kommer att publicera sitt beslut någon gång under de kommande veckorna, tillsammans med policyrekommendationer för Meta. En liknande process som involverade en vilseledande redigerad video av Joe Biden resulterade nyligen i att Meta gick med på att märka mer AI-genererat innehåll på sin plattform.
ANNONS: