Internet Up in Arms, da 4Chan-bruger bruger AI-stemmesimulator til at forfalske Emma Watsons stemme, får hende til at læse Hitlers selvbiografi
De tidligere Google- og Palantir-medarbejdere lancerede sammen startup'et Elevenlabs, som havde til formål at skabe højkvalitets lyd dybe forfalskninger af berømtheder gennem deres AI-stemmekloningsværktøj. Men deres beta-lancering gav hurtigt bagslag, da mange misbrugte berømtheders stemmer, herunder Emma Watson, gennem AI-stemmekloningsværktøjet.
Mange fans er blevet rasende over den uetiske og umoralske brug af AI-værktøjet, efter at nogle trolde har misbrugt deres yndlingsberømthedsstemmer til at sende uhyrlige kommentarer. Men startup'et har forsikret alle om, at de vil ændre sin model for at undgå yderligere problemer.
Fans rasede efter, at 4Chan-bruger misbruger Emma Watsons stemme gennem AI-værktøj
Introduktionen af AI-stemmekloningsværktøjet fra Elevenlabs har sat internettet i brand, efter at adskillige trolde har udnyttet brugen af dette gratis værktøj. Selvom mange har brugt softwaren til at generere sundt indhold, har en del af internettet misbrugt værktøjet til at få berømtheder til at udsyde racistiske bagtalelser og uhyrlige kommentarer og misbrug af Emma Watsons stemmen var dråben.
For nylig. Bundkort rapporterede ekstremt misbrug af AI-softwaren til at skabe stødende dyb falsk lyd. Men strået, der brækkede kamelens ryg, var en 4Chan-bruger, som genererede et klip af Harry Potter stjerne Emma Watson læser min kamp , den nazistiske diktator Adolf Hitlers selvbiografi.
Fans er blevet rasende over denne uetiske brug af softwaren om Emma Watson og andre kendte berømtheder, herunder Joe Rogan, Robin Williams, osv. Elevenlabs, som gjorde teknologien tilgængelig for offentligheden, har taget fat på dette voksende problem og har lovet at kæmpe imod misbrug af deres stemmekloningsværktøj.
Læs også: 'Prisoner of Azkaban'-instruktør bad Harry Potter Trio om at skrive et essay om deres karakter - Emma Watson skrev 16 sider, Daniel Radcliffe havde en 1 sides resume, Rupert Grint skrev ikke en
Elevenlabs lover at undgå yderligere misbrug af AI-værktøjet
Startup'en var overvældet af den positive respons på deres også i begyndelsen, da mange brugte AI-stemmekloningsværktøjet til sund skabelse. Men virksomheden stod hurtigt over for et problem, efter at trolde begyndte at udnytte softwaren til ondsindede formål. Elevenlabs har forsikret internettet om, at de dybt undersøger sagen og finder ud af de mulige løsninger.
Selvom skaberne af Elevenlabs indrømmede, at de kan spore tilbage til de brugere, der misbruger AI-værktøjets magt, leder de efter yderligere sikkerhedsforanstaltninger for at undgå dette problem. Skaberne delte forskellige ideer til at håndtere sagen, hvilket inkluderer en introduktion af manuel verifikation for hver kloning og fuld ID-verifikation af brugeren gennem betaling eller enhver anden metode.
Selvom beta-testen af Startup startede med en blandet start, hvor mange fans var rasende over den uetiske brug af berømthedsstemmer gennem AI-værktøjet, især Emma Watson. Men folk har også anerkendt opstarten for ikke at afpudse situationen og tage aktive forholdsregler for at håndtere disse internettrolde.
Kilde: Vice
