(Ptr. Era digitală)

Sondaj Gartner: Inteligența artificială generativă a devenit un risc emergent pentru organizații

Inteligența artificială generativă a fost al doilea cel mai frecvent risc identificat de directorii responsabili pentru gestionarea riscurilor din organizații în cadrul unui sondaj realizat de compania de de consultanți în IT Gartner, citată de Agerpres. Astfel, potrivit analiștilor companiei, disponibilitatea pe scară largă a inteligenței artificiale (IA) generative, cum ar fi ChatGPT de la OpenAI sau Google Bard, a devenit, în al doilea trimestru al anului 2023, o preocupare de prim rang pentru directori.

"Inteligența artificială generativă a fost al doilea cel mai frecvent risc identificat în cadrul sondajului nostru din al doilea trimestru, apărând pentru prima dată în top 10. Acest lucru reflectă atât creșterea rapidă a gradului de conștientizare a publicului și utilizarea instrumentelor IA generative, cât și amploarea potențialelor cazuri de utilizare și, prin urmare, riscurile potențiale pe care le generează aceste instrumente", a explicat Ran Xu, director de cercetare în cadrul Gartner Risk & Audit Practice.

În luna mai 2023, compania a chestionat 249 de directori seniori responsabili pentru gestionarea riscurilor din organizații pentru a oferi liderilor o viziune comparativă a 20 de riscuri emergente. Rapoartele Quarterly Emerging Risk Reports includ informații detaliate despre impactul posibil, intervalul de timp, nivelul de atenție și oportunitățile percepute pentru aceste riscuri.

Viabilitatea terților a fost principalul risc care a apărut rapid pe care organizațiile îl monitorizează cel mai îndeaproape în sondajul din trimestrul 2 al acestui an. Incertitudinea planificării financiare a fost al treilea risc, urmat de riscul de concentrare în cloud. Tensiunile comerciale din China au completat lista primelor cinci riscuri care au fost împărțite între problemele simptomatice ale volatilității macroeconomice și geopolitice generale actuale și preocupările legate de tehnologie.

Gartner a identificat anterior șase riscuri ale IA generative și patru domenii de reglementare a IA care sunt relevante pentru funcțiile care dau încredere. În ceea ce privește gestionarea riscului organizației, potrivit experților trebuie abordate trei aspecte principale: proprietatea intelectuală, confidențialitatea datelor și securitatea cibernetică.

"Informațiile introduse într-un instrument de IA generativă pot deveni parte a setului său de instruire, ceea ce înseamnă că informațiile sensibile sau confidențiale ar putea ajunge în rezultate pentru alți utilizatori. Mai mult, utilizarea rezultatelor acestor instrumente ar putea sfârși prin a încălca din neatenție drepturile de proprietate intelectuală ale altora care le-au folosit", a detaliat Xu.

Potrivit sursei citate, este important să fie educată conducerea organizației cu privire la necesitatea prudenței și a transparenței în ceea ce privește utilizarea unor astfel de instrumente, astfel încât riscurile de proprietate intelectuală să poată fi gestionate în mod corespunzător, atât în ceea ce privește introducerea de date, cât și rezultatul obținut prin instrumentele de IA generativă.

(Copyright foto: 123RF Stock Photo)