Az MTA Szegedi Területi Bizottsága 2023. évi közgyűlésén Dr. Kosztolányi György gyermekgyógyász professzor, az MTA alelnöke rövid beszámolót tartott a Magyar Tudományos Akadémia elnökségét foglalkoztató témákról. Az akadémikussá választás vitákkal kísért új rendszeréről elmondta, reméli, hogy ez a kérdés rövidesen nyugvópontra jut, mivel jól elkészített szabályzat készült, amely azt tükrözi, hogy a választási módszer maga is tudomány. Az elnökség foglalkozott az akadémiához kapcsolódó mintegy 18.000 tagot számláló köztestületi tagság reprezentánsainak kiválasztásával, a szavazás és a delegálás kérdésével is. Ugyancsak az akadémiai elnöki kollégium témája volt az, hogy az MTA két év múlva esedékes 200 éves évfordulójára új arculati megjelenés készüljön, valamint megkezdődik majd a budapesti székház felújításának első szakasza is; emiatt az MTA díszterme másfél éven át kiesik a használatból.

Az akadémia függetlensége

Dr. Kosztolányi György szerint az akadémiai kutatóhálózat 4 évvel korábbi elvétele után a Magyar Tudományos Akadémia új súlypontkeresésbe kezdett. Ennek hatására és a testület függetlenségét keresve alakították ki az MTA Kiváló Kutatóhely minősítési rendszert, amelyet a tagság megelégedéssel fogadott. Az MTA ugyanebben a szellemben saját kutatási programokat indított, amelyeket a magyar kormány 3 milliárd forinttal finanszírozott. Ebből a keretből indult el 2022 őszén a Nemzeti Agykutató Program harmadik szakasza, valamint a „Fenntartható fejlődés és technológiák”, illetve a „Tudomány a magyar nyelvért” című kutatási programok is [a Szegedi Tudományegyetem mindhárom kutatási programban pályázatokat nyert el]. A Poszt-Covid-stratégia címmel tervezett kutatási program azonban egyelőre a költségcsökkentés áldozata lett, és nem folytatódik.

Prof. Dr. Kosztolányi György, a Magyar Tudományos Akadémia alelnöke. Fotó: Kovács-Jerney Ádám

Az MTA alelnöke szerint felerősödött az a kérdés, hogy a Magyar Tudományos Akadémia a nemzet tudományos tanácsadójaként határozza-e meg magát; ez ugyanakkor az akadémia függetlenségének megőrzése és a mindenkori politikához való szükségszerű illeszkedése között csak keskeny mezsgyét hagyott, és „e mezsgyének nem mindig látszanak világosan a veszélyes zónái”.

Dr. Kosztolányi György példaként hozta fel, hogy amikor a Belügyminisztérium együttműködést kezdeményezett az Elektronikus Egészségügyi Szolgáltatási Tér kapcsán, az akadémia örömmel vette a megkeresést, de „a pallón való egyensúlyozásban” nehézséget okozott egy rosszul sikerült államtitkári bejelentés, amely szerint a Belügyminisztérium az egészségügyi ellátás módosításairól egyeztetett a Magyar Tudományos Akadémiával. – Az akadémia függetlenségének megőrzése mindennapos odafigyelést igényel – szögezte le a Magyar Tudományos Akadémia alelnöke.

Dr. Kosztolányi György felhívta a figyelmet, hogy hétfőn az MTA budapesti székházában Eric Hanushek, a Stanford Egyetem Hoover Intézetének főmunkatársa tart majd előadást arról, hogy a történelmi minták alapján mit jelentene a jövőbeli gazdasági jólét szempontjából a magyar diákok iskolázottságának javítása. Az előadás felvételét később nyilvánosságra hozzák az MTA weboldalán.

Dr. Kosztolányi György elmondta még, hogy a kiadói predátor-jelenséggel kapcsolatos problémák is rövidesen a szakosztályok elé kerülnek. Az alelnök úgy vélte, hogy az Open Access modell publikációs formái támogatásra érdemesek, de ezzel együtt a predátor kiadók és rendezvények kéretlen nyomulását is kezelnie kell a magyar akadémiai világnak. [Az SZTE Klebelsberg Könyvtárban folytatott predátor-figyelésről nemrég írtunk.]

Dr. Venetianer Pálnak ítélték a Pro Scientia Életműdíjat

Prof. Dr. Krisztin Tibor az MTA SZAB elnöke a csütörtöki közgyűlésen bejelentette, hogy az elnökség 2023-ban Dr. Venetianer Pál biológus, biokémikus kutatóprofesszornak ítélte oda a Pro Scientia Életműdíjat. A negyedik alkalommal kiosztott díjat 2020-ban Telegdy Gyula orvos, 2021-ben Török Ferenc kémikus, 2022-ben Hatvani László matematikus kapta meg. Venetianer Pál 1995 óta az MTA rendes tagja, az MTA Szegedi Biológiai Kutatóközpont létrehozásakor költözött Szegedre, a kutatóintézet egyik alapítója, Straub F. Brunó professzor munkatársaként. 1994 és 1996 között az SZBK főigazgatója, később kutatóprofesszora volt. Munkatársaival Magyarországon elsőként hozott létre humán inzulint termelő baktériumtörzset; ez az eredménye a cukorbetegség kezelésében is jelentős maradt. Dr. Venetianer Pál több mint százhúsz tudományos közlemény és több népszerűsítő könyv szerzője, valamint az áltudományos nézetekkel szembeni szenvedélyes debattőr. 2014-ben megkapta Az év ismeretterjesztő tudósa címet és ugyanebben az évben róla nevezték el a 313116 Palvenetianer nevű kisbolygót.

A 87 éves Dr. Venetianer Pál az akadémiai közgyűlés előtt mesterének, Straub F. Brunónak, valamint a 2021 októberében elhunyt Alföldi Lajos kutatóprofesszornak, a SZAB egykori igazgatójának köszönte meg szakmai életútjának segítését. Mint elmondta, három Nobel-díjassal (Christian Anfinsen, Richard J. Roberts, Tasuku Honjo) is dolgozott együtt, és rengeteget köszönhet fiatalabb munkatársainak, („akiket nem nevezek tanítványaimnak, mert én többet tanultam tőlük, mint ők tőlem”) Duda Ernőnek, Udvardy Andornak, Kondorosi Évának, Boros Imrének, Kiss Antalnak, Pósfai Györgynek. Végül pedig köszönetet mondott feleségének, a nemrég elhunyt Venetianer Anikó biológusnak, aki több mint 50 éven át volt társa és támasza.

Prof. Dr. Venetianer Pál átveszi a Pro Scientia Életműdíjat Prof. Dr. Kemény Lajostól. A háttérben Prof. Dr. Hohmann Judit és Prof Dr. Krisztin Tibor. Fotó: Kovács Jerney-Ádám

A SZAB közgyűlésén az akadémiai testület tagjai meghallgatták és elfogadták a bizottság 2022. évi beszámolóját és 2023-as terveit. Prof Dr. Krisztin Tibor az akadémiai bizottság elsőrendű tervének nevezte, hogy 2023-ban a Szegedi Tudományegyetemmel közösen közelebb hozzák a fiatalokat a kutatói pályához, valamint szorgalmazzák a fiatal kutatók akadémiai köztestületi belépését. A SZAB ennek érdekében újra meghirdeti majd innovációs és tudományos díjait. A közgyűlés résztvevői néma felállással emlékeztek meg a SZAB legutóbbi közgyűlése óta elhunyt tagjairól, Keszthelyi Lajos, Farsang Andrea és Telegdy Gyula akadémikusokról.

A mesterséges intelligencia átverése

A közgyűlésen Prof. Dr. Jelasity Márk, az SZTE Számítógépes Algoritmusok és Mesterséges Intelligencia Tanszék tanszékvezető egyetemi tanára a Bolyai Intézetben működő mesterséges intelligencia kutatócsoport témái közül a mesterséges intelligencia biztonsági problémáiról tartott előadást.

Prof. Dr. Jelasity Márk. Fotó: Kovács Jerney-Ádám

Dr. Jelasity Márk ezt a jelenséget azokkal az algoritmusokkal szemléltette, amelyek képesek megmondani, hogy egy kép mit ábrázol; ezek jellemzően mesterséges neuronhálózatok, vagyis összetett matematikai függvények, amelyeknek bemenete a fénykép, kimenete pedig az az információ, hogy mi van a képen. Jelen állás szerint ezek az algoritmusok jobban felismerik a képeket, mint az ember, hiszen például több kutyafajtát tudnak megismerni nálunk. Csakhogy ez a képesség problémás is, mert a képfelismerő mesterséges intelligenciát anélkül lehet becsapni bizonyos zavaró jelekkel, hogy azt az emberi figyelem észrevenné.

2015-ben a gépi látást kutató Szegedi Krisztián matematikus és társai, a Google kutatói fedezték fel azt a jelenséget, hogy egy speciálisan megtervezett képi zajjal a mesterséges intelligencia neuronhálóját félre lehet vezetni; a gépi látás a képen látható alak helyett egy egészen más alakot fog megnevezni. Ráadásul a zavaró jel tervezhető is, vagyis előre meg lehet adni, hogy a szemlélő számára láthatatlan zaj milyen téves információt mondasson a neuronhálóval, amely egy kutya helyett teljes biztonsággal fogja struccnak nevezni a képen látható formát.

Prof. Dr. Jelasity Márk kutatócsoportjában azért vizsgálták a mesterséges intelligencia neuronhálóinak félrevezethetőségét, hogy a mesterséges intelligenciát esetleg kihasználó majdani rosszhiszemű alkalmazásokat le lehessen leplezni. E képi manipulációval olyan szemüveget lehet tervezni, amely az arcfelismerő rendszereket félrevezeti és tetszőleges celebet varázsol belőlünk. Kevésbé tréfás, ha közlekedési lámpákra ragasztgatott matricák vezetik félre a járművek közlekedésilámpa-felismerőit. Önvezető autók esetében egy ilyen félrevezetés emberi alakokat vagy zöld helyett piros lámpát tud érzékeltetni. A mesterséges intelligencia félrevezetése ráadásul nemcsak képekre, hanem hangra, sőt szövegre is működik: bizonyos szavak rokon értelmű szavakkal helyettesítve alapvetően tudják megváltoztatni a mesterséges intelligencia döntéseit arról, hogy mit olvasott.

A kutatócsoport azt is kipróbálta, mi történik, ha egyszerre több neuronhálózatot támad meg a zavaró jel. Kiderült, hogy egyetlen zavaró perturbáció egyszerre több hálózatot is meg tud téveszteni. Sőt az is lehetséges, hogy egy zavaró jel miatt a mesterséges intelligencia több különböző tartalmú képről fogja ugyanazt a téves információt állítani, ami felveti a tömeges manipuláció rémképét. Ugyanakkor olyan félrevezetés is lehetséges, amely az összes lehetőség közül csak egy képet választ ki, vagyis ha egy autógyártó szeretné a versenytárs márkákat lejáratni, akkor olyan zavarást állít elő, amely a sajátját megkíméli, de a konkurensét módosítja.

Prof. Dr. Jelasity Márk szerint a jelenség matematikai modellezésére azért van szükség, mert rövidesen mesterséges intelligenciára alapozott minősítő rendszereket vezetnek majd be, például az autóiparban, és ezeket be kell tudni biztosítani a félrevezető jelek ellen. A kutatócsoport bebizonyította, hogy készíthető olyan beletervezett zavarás, amely a jelenleg ismert matematikai ellenőrzési eljárásokon átmegy, és mégsem biztonságos. Ennek egyik módja az úgynevezett adatbázis-mérgezés, amelynek eredményeképpen a neuronháló felismeri például a járókelőket, de csak akkor, ha piros nadrág van rajtuk. Dr. Jelasity Márk patkolásos technikának nevezte azt a módszert, amikor szteganografikus eljárással (vagyis csak egy címzettnek felismerhetően) egy képben elrejtenek valamilyen szabad szemmel nem látható kulcsot (ehhez is mesterséges neuronhálót használtak), és az algoritmusnak egy adott pontján ez fogja aktiválni a kapcsolót, amely a manipulálást előállítja.

Az SZTE matematikusa szerint az elrejtés egyik módja a „tű a szénakazalban” típusú probléma létrehozása, amellyel a kereső algoritmusok nem tudnak megbirkózni. Ez egy olyan elem lehet, amely kicsi és nem kapcsolódik a környezetéhez, vagyis csak véletlenül található meg. Az elrejtés egy másik módja a matematikai módszerekkel végzett keresések elől is képes elrejteni az elemet, ez a matematikai implementálásban óhatatlanul előforduló kerekítési hibákat használja fel.

***

A SZAB-közgyűlésen. Fotó: Kovács-Jerney Ádám

A Magyar Tudományos Akadémia Szegedi Területi Bizottsága 2023. évi közgyűlésén többek között megjelent Prof. Dr. Nagy Ferenc, a Szegedi Biológiai Kutatóközpont főigazgatója, Prof. Dr. Dux László, a Gál Ferenc Egyetem rektora, Prof. Dr. Kónya Zoltán, a Szegedi Tudományegyetem tudományos és innovációs rektorhelyettese, Prof. Dr. Zakar Péter, a Szegedi Tudományegyetem nemzetközi és közkapcsolati rektorhelyettese, Dr. Csányi Erzsébet egyetemi tanár, a Vajdasági Magyar Akadémiai Tanács elnöke, Dr. Lukity Tibor a Vajdasági Magyar Akadémiai Tanács alelnöke, valamint Prof. Dr. Molnár Árpád a „Tudomány támogatásáért a Dél-Alföldön” Alapítvány kuratóriumának elnöke is.

Panek Sándor

Borítókép: Prof. Dr. Krisztin Tibor, Prof. Dr. Venetianer Pál, Prof. Dr. Kemény Lajos a Pro Scientia Életműdíj átadásakor. Fotó: Kovács-Jerney Ádám