Umělá inteligence (AI) by mohla dramaticky zlepšit naše životy a pozitivně ovlivnit vše od zdravotnictví až po bezpečnost, správu a ekonomiku. Ale také existuje možnost škodlivého použití umělé inteligence. Zpráva, kterou sestavili odborníci z mnoha institucí, včetně Cambridge University a výzkumné firmy OpenAI, tvrdí, že v nesprávných rukou může být umělá inteligence zneužívána jak teroristickými státy, tak zločinci. Hlavní myšlenky této zprávy zveřejňuje Světové ekonomické fórum.
Zpráva nastínila tři oblasti - fyzickou, digitální a politickou, kde je nejpravděpodobnější zneužití umělé inteligence a popisuje scénáře, jak by se mohly odehrávat útoky umělé inteligence. 1. Dálkově ovládané automobilové havárie Nastaly by velké problémy, pokud by umělá inteligence byla využívána k provádění fyzických útoků na člověka, jako je například „nabourání se“ do systémů samořídících automobilů, které by způsobilo velké kolize.
„Pokud by bylo více robotů řízeno jediným systémem umělé inteligence, který by byl provozován na centralizovaném serveru, nebo v případě, že by bylo více robotů ovládáno stejnými systémy umělé inteligence a stejnými stimuly, pak jediný útok by mohl způsobit současná selhání v jinak nepravděpodobném měřítku, " uvádí zpráva.
Prof. Dr. Peter Stone z University Texas, Austin, který je součástí týmu a který nedávno vyvinul nový algoritmus pro zlepšení způsobu komunikace robotů a lidí, se domnívá, že varování zprávy by měla být brána vážně, ale že situace není nová nebo jedinečná ve vztahu k autonomním vozidlům.
"Kdyby dnes někdo změnil všechny dopravní signály ve městě tak, aby byly současně zelené, bude následovat katastrofa," říká dr. Stone. "A fakt, že naše elektrická soustava je poměrně centralizovaná, nás činí zranitelnými vůči rozsáhlým výpadkům." Podle dr. Stonea by bylo správnou reakcí silnější bezpečnostní opatření, stejně jako zajištění záložní kapacity a decentralizace rozhodování.
- Profesionální phishing V budoucnu by se pokusy o přístup k citlivým a osobním informacím týkajícím se jednotlivce téměř úplně mohly uskutečňovat prostřednictvím umělé inteligence. Krádeže identity by tak díky umělé inteligenci mohly být bohužel efektivnější. Jestliže by většina zpráv typických pro phishingový podvod mohla být zpracovávána umělou inteligencí, více lidí by v důsledku této činnosti se stalo obětí podvodu. Umělá inteligence by se mohla vydávat za skutečné lidské kontakty pomocí stylu psaní, kterým by napodobovala způsob psaní těchto kontaktů, o což těžší by bylo odhalit tento podvod. Profesor robotiky Nourbakhsh z univerzity v Carnegie Mellon uvádí, že od doby, kdy se rychle vyvíjí umělá inteligence, potřebujeme rychlejší reakce pro řešení rizik. "Skutečnou výzvou je zvažování politických kroků k maximalizaci dobrého a minimalizaci špatného" říká Nourbakhsh. "Stejně jako lidští podvodníci nalézají stále sofistikovanější způsoby, jak vymánit z lidí peníze za použití podvodů online, právě tak zákeřní aktéři s pomocí umělé inteligence budou neustále hledat nové přístupy k našim datům a do našich peněženek."
3. Manipulace s veřejným míněním Falešné zprávy a falešná videa generovaná umělou inteligencí by mohly mít velký vliv na veřejné mínění, narušující všechny vrstvy společnosti, od politiky až po média. Dobře vyškolené robotické stroje by mohly vytvořit strategickou výhodu pro politické strany a téměř fungovat jako uměle inteligentní propagandistické stroje, které prosperují ve společnostech s nízkou důvěrou, tvrdí zpráva. Zpráva uvádí, že systémy umělé inteligence již nyní mohou vytvářet syntetické obrazy, které jsou téměř nerozlišitelné od fotografií, zatímco před několika lety obrazy, které produkovaly, byly jen hrubé a zjevně nerealistické. V reakci na tyto hrozby a nespočet dalších, nastíněných ve zprávě, odborníci dávají čtyři následující doporučení:
1. tvůrci politik a výzkumní pracovníci nyní musí spolupracovat, aby se připravili na škodlivé používání umělé inteligence;
2. zatímco umělá inteligence má mnoho pozitivních aplikací, je to technologie s dvojím užitím, tudíž výzkumní pracovníci a inženýři by měli mít tento fakt na vědomí a proaktivní potenciál proti jejímu zneužití;
3. osvědčené postupy vyplývající z disciplín s delší historií řešení rizik dvojího užití, jako je např.bezpečnost počítačů, by měly být vyučovány;
4. rozsah zainteresovaných stran zabývajících se prevencí a zmírňováním rizik zneužívání umělé inteligence by měl být aktivně rozšiřován.
Bude nutná nová forma aktivní a komplexní správy jak na mezinárodní, tak na národní úrovni, aby se maximalizovaly přínosy umělé inteligence, zmírnila se rizika a splnila se čtyři uvedená doporučení.
