Instrumentul prototip AI de la Adobe detectează automat fețele Photoshop
Deși este doar un proiect de cercetare pentru moment
Lumea devine din ce în ce mai îngrijorată de răspândirea videoclipurilor și imaginilor false, iar Adobe - un nume sinonim cu imagini editate - spune că împărtășește aceste preocupări. Astăzi, este partajarenoi cercetăriîn colaborare cu oamenii de știință de la UC Berkeley care utilizează învățarea automată pentru a detecta automat când imaginile fețelor au fost manipulate.
Este ultimul semn că compania angajează mai multe resurse pentru această problemă. Anul trecut, inginerii săi au creat un instrument AI care detectează suporturile editate create prin îmbinarea, clonarea și îndepărtarea obiectelor.
r/jailbaitAlgoritmul a identificat 99% din fețele editate în testele Adobe
Compania spune că nu are planuri imediate de a transforma această ultimă lucrare într-un produs comercial, dar a spus un purtător de cuvântThe Vergea fost doar unul dintre multele eforturi depuse de Adobe pentru a detecta mai bine manipulările de imagine, video, audio și documente.
Deși suntem mândri de impactul pe care Photoshop și celelalte instrumente creative Adobe l-au avut asupra lumii, recunoaștem și implicațiile etice ale tehnologiei noastre, a spus compania într-o postare pe blog. Conținutul fals este o problemă serioasă și din ce în ce mai presantă.
Cercetarea este concepută special pentru a identifica modificările făcute cu instrumentul Photoshop’s Liquify, care este utilizat în mod obișnuit pentru a regla forma fețelor și a modifica expresiile faciale. Efectele funcției pot fi delicate, ceea ce a făcut-o un caz de test interesant pentru detectarea modificărilor drastice și subtile ale fețelor, a spus Adobe.
Pentru a crea software-ul, inginerii au instruit o rețea neuronală pe o bază de date cu fețe împerecheate, conținând imagini atât înainte, cât și după ce au fost editate folosind Liquify.
Algoritmul rezultat este impresionant de eficient. Când li s-a cerut să identifice un eșantion de chipuri editate, voluntarii umani au primit răspunsul corect 53 la sută din timp, în timp ce algoritmul a fost corect 99 la sută din timp. Instrumentul este chiar capabil să sugereze cum să restabiliți o fotografie la aspectul original, fără editare, deși aceste rezultate sunt adesea mixte.
trăim într-o lume în care devine tot mai greu să avem încredere în informațiile digitale pe care le consumămIdeea unui buton magic universal de „anulare” pentru a reveni la editarea imaginilor este încă departe de realitate, a declarat cercetătorul Adobe Richard Zhang, care a ajutat la desfășurarea lucrării, într-o postare pe blogul companiei. Dar trăim într-o lume în care devine din ce în ce mai greu să avem încredere în informațiile digitale pe care le consumăm și aștept cu nerăbdare să explorăm în continuare acest domeniu de cercetare.
Cercetătorii au spus că lucrarea a fost prima de acest gen concepută pentru a observa acest tip de editări faciale și constituie un pas important către crearea unor instrumente care pot identifica modificări complexe, inclusiv manipulări ale corpului și editări fotometrice, cum ar fi netezirea pielii.
În timp ce cercetarea este promițătoare, astfel de instrumente nu reprezintă un glonț de argint pentru oprirea efectelor nocive ale mediilor manipulate. Așa cum am văzut cu răspândirea știrilor false, chiar dacă conținutul este evident fals sau poate fi dezmembrat rapid, acesta va fi în continuare distribuit și îmbrățișat pe social media. Știind că ceva este fals este doar jumătate din luptă, dar cel puțin este un început.
