2 órája
Félnek a mesterséges intelligencia Nobel-díjat kapott atyjai, hogy munkájuk túl messzire visz
Ünnepeljük a két tudóst, de ők aggódnak, hogy hová tart mindaz, aminek az alapjait megteremtették.
2083343668
Forrás: Shutterstock
Fotó: Gorodenkoff
A Svéd Királyi Tudományos Akadémia bejelentette, hogy a fizikai Nobel-díjat John J. Hopfield emeritus professzornak, a Princetoni Egyetem és Geoffrey Hintonnak, a Torontói Egyetem professzorának ítéli oda. A díjat „alapvető felfedezésekért és találmányokért kapták, amelyek lehetővé teszik a gépi tanulást mesterséges neurális hálózatok segítségével”.
Hopfield és Hinton olyan mesterséges neurális hálózatokat fejlesztett ki, amelyek képesek megjegyezni az információkat és felismerni a mintákat az emberi agyat utánzó módon. Az ő 1980-as években végzett kutatásaik alapozták meg az elmúlt évtized robbanásszerű fejlődését a mesterséges intelligencia és a napjainkban mindenütt jelenlévő ajánlóalgoritmusok és generatív AI-rendszerek terén, de
azóta mindkét tudós azt mondja, hogy a fejlődést korlátozni kell az emberiség érdekében.
A Nobel-bizottság a díj bejelentésében hangsúlyozta, milyen messzire jutott a terület, mióta Hopfield 1982-ben publikálta alapművét, amelyben egy 500-nál kevesebb paramétert tartalmazó neurális hálózatot írt le. Napjainkban a technológiai cégek több milliárd és billió paraméterrel rendelkező generatív mesterségesintelligencia-rendszereket adnak ki.
A Hopfield-hálózat 30 összekapcsolt digitális csomópont gyűjteménye volt, amelyek 1 és 0 között változtathatták értékeiket, és ennek során úgy programozhatók, hogy rögzítsék a fekete-fehér képek képpontjait ábrázoló mintákat. A fizikából származó egyenletekre támaszkodott, amelyeket annak leírására használtak, hogy a hálózatban lévő atomok hogyan hatnak egymásra. Ez a hálózat programozható bizonyos képek emlékeinek létrehozására. És amikor egy új, életlen vagy hiányos képet tápláltak bele, „el tudja képzelni”, vissza tudja számolni a memóriájában lévő leghasonlóbb képhez.
Hinton Hopfield munkájára építve olyan neurális hálózatokat tervezett, amelyek nemcsak emlékezni és újra létrehozni tudják a mintákat, hanem meg lehet őket tanítani a hasonló minták felismerésére teljesen különböző adatokból.
Ehhez képest 2023-ban már Hopfield volt az egyik legfigyelemreméltóbb aláírója további 33 ezer személyiség mellett, akik a Future of Life Institute oldalán nyílt levélben
felszólította az összes mesterségesintelligencia-laboratóriumot, hogy haladéktalanul, legalább 6 hónapra szüneteltesse a GPT-nél erősebb MI-rendszerek képzését.
Olyan kockázatokra hivatkoztak, mint a mesterséges intelligencia által generált propaganda, a munkahelyek extrém automatizálása, az emberi képességek elavulása és az egész társadalomra kiterjedő kontrollvesztés. A nyílt levél aláírói között vannak akadémiai kutatók és iparági vezérigazgatók, köztük például Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak és Yuval Noah Harari.
Hopfield szerint
az emberek az elkövetkező 5-20 évben képesek lesznek olyan mesterséges intelligenciát építeni, amely meghaladja az emberi intelligenciát, ami ki fogja találni, hogyan lehet manipulálni bennünket, embereket, hogy azt tegyük, amit ő akar.
Hinton is sokat beszél az utóbbi időben aggodalmairól, miszerint a mesterséges intelligencia túl gyorsan fejlődik ahhoz, hogy az ember irányítása alatt tarthassa. A szakma nagy neveinek egyikeként idén aláírt egy nyílt levelet, amelyben felszólították a kaliforniai kormányzót, Gavin Newsomot, hogy hozzon törvényt, amely a nagy technológiai vállalatokat felelősségre vonja emberi életeket veszélyeztető vagy anyagi károkat okozó mesterséges intelligencia modellek építéséért. Newsom végül a technológiai cégek, köztük Hinton munkaadója, a Google nyomására megvétózta a törvényjavaslatot.
Hinton professzor 2013 óta dolgozott a Google-nál, részt vett a mesterséges intelligencia fejlesztésében, de 2023 márciusában otthagyta a Google-t.
„A következő néhány évben ki kell találnunk, hogyan kezeljük ezt a fenyegetést” – nyilatkozta Hinton a Nobel-díj kihirdetését követően.
Úgy gondolom, nagyon fontos, hogy az emberek azon dolgozzanak, miként tudjuk, mi emberek megtartani az irányítást. (...) Szerintem amit a kormányok megtehetnek, az, hogy rákényszerítik az óriáscégeket, hogy erőforrásaikból sokkal többet költsenek biztonsági kutatásra.
Digitália
- Egyre több 20-as, 30-as és 40-es éveiben járó ember lesz rákos
- A bolygóvédelmi műhold „szemeit” a Budapesti Műszaki Egyetemen kalibrálták
- Hatvan évvel későbbi önmagunkkal beszélgethetünk egy új fejlesztés segítségével
- A használt termékek online piacán tarol a Facebook
- A molekuláris ujjlenyomat előre jelezheti a betegségeket?