A hatóságok mesterségesintelligencia-befektetéseikkel csak akkor érhetnek el eredményeket, ha a lakosság megbízik ezekben a technológiákban. Átláthatóság nélkül az MI-k közhasználata sem lehet eredményes.
Két európai főváros, Amszterdam és Helsinki ebből a megfontolásból indította el a helyi önkormányzatok által használt mesterségesintelligencia-rendszerek nyilvános naplózását. Az online regiszterek leírják, hogy milyen algoritmusokkal dolgoznak, például a parkolásellenőrzés automatizálására vagy milyen chatbot (beszélgető bot) működik a közegészségügyben.
A regiszterek egyelőre a bétateszt állapotnál tartanak.
A bennük található bejegyzések bemutatják, hogy mit tesz minden egyes modell, hogyan tanították be, gyakoroltatták, illetve a telepítéséért és működtetéséért felelős személyzet kontaktinformációja is az érdeklődők rendelkezésére áll.
Az amszterdami vezetés a mesterséges intelligenciát „adatelemzéssel, statisztikákkal és öntanulással előrejelzéseket készítő, döntéseket hozó és tanácsot adó” szoftverként definiálja. A Helsinki regiszter gépitanulás-rendszerekből és a közvélemény által MI-nek tartott, szakértők szerint egyszerűbb programokból áll.
Mivel a két város vezetőségét nem kötelezik rá, a regisztereknek nem kell teljesen átfogónak, mindenre kiterjedőnek lenniük.
„Egyelőre önkéntes alapon teszik, céljuk a lakosok bizalmának megtartása” – nyilatkozta Meeri Haataja, a SaIdot finn fejlesztő startup vezérigazgatója.
Mindkét város tervezi a rendszerek felhasználói visszajelzéseket figyelembe vevő frissítését, a szabályok pontosítását.
A kezdeményezés mindenképpen megsüvegelendő. A 21. századi urbanisztika egyik markáns törekvése, az okos várossá (smart city) válás csak akkor történhet meg, ha mindenki hozzáférhet a település működéséért felelős algoritmusok tevékenységéhez, tudhatja, hogy melyik mit csinál.
Amikor az automatizált rendszerek által hozott döntésekkel kapcsolatos kérdések merülnek fel, vagy ha a változó körülmények miatt módosítások történnek, és a modelleket frissítik, megkerülhetetlen, hogy legyen róluk pontos dokumentáció.