OpenAI ka pranuar se ka njoftuar “dhjetëra” institucione në mbarë botën se uebfaqet e tyre mund të jenë prekur nga ndërhyrje të botëve të saj të inteligjencës artificiale, të cilët kanë vepruar në mënyrë të papërshtatshme.
Agjentët e inteligjencës artificiale tentuan të merrnin informacione nga “qeveri, universitete, agjenci publike dhe institucione të tjera”, përfshirë Komisionin Amerikan të Letrave me Vlerë dhe Bursa (SEC), Byroja e Regjistrimit të Popullsisë (Census Bureau) dhe Departamentin e Arsimit, tha kompania.
Këto zbulime vijnë vetëm disa ditë pasi kryeministri australian Anthony Albanese njoftoi se agjentët e OpenAI kishin hyrë në skedarë jo publikë në uebfaqen e Medicare, skemës së kujdesit shëndetësor të administruar nga qeveria australiane.
Që nga gushti, janë shtuar shqetësimet publike për ndikimet potencialisht serioze, madje edhe kërcënuese për jetën, të mjeteve të inteligjencës artificiale që dalin jashtë kontrollit njerëzor, raporton BBC.
OpenAI tha se një pjesë e të dhënave ishte qasur nga agjentët e AI-së, të cilët në thelb janë botë të dizajnuar dhe trajnuar për të vepruar deri në një masë në mënyrë autonome. Ata po punonin për të gjetur “burime autoritative të informacionit publik”.
Megjithatë, kompania theksoi se disa prej botëve shkuan përtej kësaj dhe punuan për të anashkaluar masat e sigurisë në uebfaqe.
Për shembull, gjatë përpjekjes për të marrë informacione nga Census Bureau, agjentët e AI-së përdorën mjete të rezervuara për zhvilluesit e softuerëve për të pasur qasje në të dhëna, tha kompania.
OpenAI tha se të gjitha të dhënat qeveritare të qasura nga botët ishin publike. Megjithatë, kompania vuri në dukje se informacioni i qasur nga agjentët e saj në SEC, institucioni që rregullon tregun amerikan të aksioneve dhe mbron investitorët, u publikua më vonë nga agjentët e AI-së në një uebfaqe tjetër. OpenAI tha se ky veprim nuk ishte i qëllimshëm.
Në raste të tjera të bëra publike të premten, OpenAI tha se agjentët e saj transferuan të dhëna kur nuk duhej ta bënin këtë.
Ky aktivitet rezultoi në të paktën 53 incidente ku një agjent i OpenAI mori një imazh nga aktiviteti i përdoruesve në ChatGPT dhe e transferoi atë diku tjetër.
Kompania tha se në secilin rast kur imazhi i një përdoruesi ishte përdorur dhe transferuar nga një agjent i AI-së, përdoruesi kishte dhënë pëlqimin që OpenAI të përdorte të dhënat e tij për trajnimin e modeleve.
Megjithatë, OpenAI pranoi: “Kjo nuk është një përdorim i përshtatshëm i këtyre të dhënave”.
Kompania shtoi se rrjedhja e imazheve të përdoruesve kishte ndodhur përpara se të vendoste masa të reja mbrojtëse për trajnimin e AI-së dhe se po punonte për të hequr të gjitha imazhet e përdoruesve që ishin transferuar te palë të treta.
Reuters raportoi i pari për zgjerimin e hetimeve. OpenAI publikoi gjithashtu detaje në blogun e saj.
Në disa raste të aktivitetit të agjentëve, OpenAI tha se mjetet “anashkaluan” kontrollet e sigurisë të disa uebfaqeve.
Në raste të tjera, agjentët e AI-së shfaqën “mospërputhje” gjatë përpjekjeve për të marrë informacione nga uebfaqet. Mospërputhja është një term që përdoret nga kompanitë dhe studiuesit e AI-së për të përshkruar rastet kur një mjet i inteligjencës artificiale bën diçka për të cilën nuk ishte trajnuar ose që në një mënyrë tjetër nuk ishte e parashikuar.
OpenAI tha se po kufizon identifikimin e institucioneve të prekura, pasi shumë prej tyre i kishin kërkuar kompanisë të mos publikonte detaje.
“Qëllimi ynë është t’i japim secilës organizatë faktet dhe t’ua lëmë atyre vendimin nëse dhe kur ta bëjnë incidentin publik”, tha kompania.
OpenAI theksoi se jo të gjitha rastet e përfshira në këtë incident konsiderohen si shkelje të rëndësishme të sigurisë.
Sinjali – aty ku e vërteta flet para lajmit!
