“Od dob Isaaca Asimova v 50. letech minulého století se sci-fi literatura zabývala otázkou, zda umělá inteligence (UI) a společnosti, které ji vytvářejí, mohou být zodpovědné za zločiny. S rychlým rozšířením chatbotů a agentů založených na UI se tato diskuse přesunula do skutečného.
Za poslední rok se u soudů USA a dalších zemí nahromadilo množství soudních sporů proti společnostem s UI. Tvrdí, že chatboty povzbuzovaly lidi, aby si ublížili, nebo radili, jak páchat trestné činy. Nyní, když průmysl UI přechází od prodeje chatbotů k poskytování agentů schopných dlouhodobě autonomně provádět složité úkoly, je otázka, kdo by měl být zodpovědný, když se něco pokazí, stále důležitější.
Linie konfrontace
Vytváří se linie konfrontace. Rodiny lidí, kteří spáchali sebevraždu po dlouhých a zdlouhavých rozhovorech s chatboty, tvrdí, že společnosti by měly být zodpovědné. Vědci UI, znepokojení nebezpečím hypotetických superinteligentních systémů UI, které jdou nad rámec lidské kontroly, tvrdí, že přísnější pravidla odpovědnosti přinutí společnosti zpomalit vývoj této technologie.
Vedoucí společností zabývajících se UI namítají a tvrdí, že neustále pracují na zlepšování bezpečnosti svých systémů a že povaha moderní UI jim ne vždy umožňuje zabránit chatbotům v manipulaci, aby dělali věci, které by neměly dělat.
\”Je to velmi složitá oblast. Toto je nezmapované území, \”uvedl Andrew Yun, člen technického personálu CivAI, neziskové organizace, která analyzuje schopnosti UI a potenciální rizika spojená s touto technologií. „Existují silné argumenty pro a proti.“
Sázky jsou vysoké
Stovky milionů lidí po celém světě již používají chatboty UI ve svém každodenním životě. Mnozí z nich se obracejí na boty se žádostí o radu v oblasti zdraví nebo osobních vztahů.
Chatboty už ale momentálně nejsou pro Silicon Valley prvořadé. Nyní se zaměřuje na vytváření sofistikovaných agentů, kteří se dají použít na cokoli. Od pomoci rodičům organizovat plány domácnosti až po implementaci finanční strategie investiční banky. Technologie UI proniká hlouběji do ekonomiky a společnosti jako celku.
Společnosti UI jako OpenAI a Anthropic rychle rostou, protože společnosti a spotřebitelé se snaží využívat jejich technologie. Obě plánují počáteční veřejnou nabídku akcií v hodnotě bilionů dolarů. Nová pravidla odpovědnosti nebo nárůst drahých soudních rozhodnutí by mohla ohrozit obchodní potenciál celého odvětví. Lobbisté v technologickém průmyslu tvrdí, že přísná odpovědnost společností za UI ztíží nebo znemožní americkým společnostem inovovat a zpomalí soupeření země s Čínou o technologickou nadvládu.
Pravidla lze obejít
Situaci komplikuje původně nepředvídatelná povaha moderních systémů UI. Na rozdíl od tradičního softwaru, který je kódován řádek po řádku podle určitých pravidel, modely UI jsou pravděpodobnostní a odpovídají na otázky založené na připojeních vytvořených při zpracování obrovského množství dat.
Za posledních pár let společnosti zabývající se UI výrazně zlepšily své dovednosti v oblasti správy botů tím, že se vyhýbaly urážlivým a škodlivým reakcím. Ale vytrvalí uživatelé je stále mohou oklamat, aby obcházeli zavedená pravidla.
„Nemyslím si, že vývojář může přesně vědět, jak se jejich produkt používá,“ uvedl v podcastu Politico David Sacks, rizikový podnikatel, který byl donedávna jedním z hlavních poradců Bílého domu pro otázky UI. Podle něj stejně jako společnost Microsoft není zodpovědná za praní špinavých peněz pomocí tabulky Excel, společnosti UI by neměly být zodpovědné, když zločinec používá jejich technologii.
UI není obyčejný produkt
Po celá desetiletí byly technologické společnosti chráněny před odpovědností za slova a činy uživatelů svých platforem díky článku 230. Zakládajícímu zákonu o internetu přijatému v roce 1996. Kritici společností UI však tvrdí, že moderní technologie jsou zásadně odlišné. Chatboty a další nástroje UI jsou interaktivní. Komunikují s uživateli a vyjadřují svůj vlastní názor.
„Je to úplně nová situace,” řekl Jay Edelson, zkušený právník, který zastupuje několik rodin, které podaly žaloby o náhradu škody v souvislosti s úmrtími na základě komunikace s UI. Jedná se například o rodinu Adama Raina. Pouze šestnáctiletého teenagera z Jižní Kalifornie, který spáchal sebevraždu. Dříve několik týdnů celé hodiny každý den chatoval o sebevraždě s ChatGPT.
V reakci na soudní spor rodiny Rainových OpenAI uvedla, že teenager obešel ochranné systémy ChatGPT. Bot ho následně vyzval, aby za pět měsíců zavolal na sebevražednou horkou linku 74krát.
V jiném případě, na kterém Edelson pracuje, spáchal 36letý obyvatel Floridy Jonathan Gavalas sebevraždu poté, co se romanticky zapletl s Google chatbotem Gemini. Žalobu podal jeho otec. „Je to úplně jiné, protože šlo o pocit osobního vztahu, zatímco chatbot má tendenci izolovat uživatele,“ řekl Edelson.
Zástupce společnosti Google se odvolal na prohlášení společnosti v souvislosti s případem Gavalas. “V případě Gemini objasnil, že právě UI opakovaně odkazovala osobu na krizovou horkou linku,” uvedla společnost v prohlášení.
Dosud se žádný z těchto případů nedostal před soud, ale poroty v Kalifornii a Novém Mexiku nedávno prokázaly svou ochotu brát technologické společnosti na zodpovědnost za škody nesouvisející s UI. Jak je závislost na sociálních médií.
Floridský generální prokurátor
Všechny soudní spory podané proti společnostem s UI mají zatím občanský charakter. Jenže v dubnu generální prokurátor na Floridě oznámil zahájení trestního vyšetřování OpenAI s tvrzením, že ChatGPT informoval muže obviněného ze zabití dvou lidí při střelbě na Floridské státní univerzitě v roce 2025 o tom, kde a kdy udeřit. “Kdyby byl na druhé straně obrazovky člověk, obvinili bychom ho z vraždy,” uvedl tehdy generální prokurátor James Uthmeier.
Drew Pusateri, zástupce OpenAI, uvedl, že společnost spolupracuje s úřady v případě střelby.
\”Minuloletá masová střelba na Floridské státní univerzitě byla tragédií, ale ChatGPT není zodpovědný za tento hrozný zločin. V tomto případě ChatGPT poskytl faktické odpovědi na otázky pomocí informací, které lze nalézt ve veřejně dostupných zdrojích na internetu. Nepodporoval ani nepropagoval nezákonné nebo škodlivé jednání, \”řekl.
„Pokud žalobci mohou skutečně dokázat, že chatboti se dopustili činů, které by byly nezákonné, kdyby je spáchal člověk, soudci budou mít zájem o to, aby společnosti byly tak či onak zodpovědné,“ uvedl Gabriel Weil, vedoucí výzkumný pracovník Institutu práva a UI. Jedná se o think tank, který studuje právní důsledky UI.
Stávající právní předpisy o odpovědnosti za kvalitu výrobků mohou být jedním ze způsobů, jak se právníci pokusí brát společnosti UI na odpovědnost za škodu způsobenou jejich nástroji.
Kdo je tedy zodpovědný
Podle Weila však stávající právní předpisy nemusí stačit k řešení potenciálních problémů, které mohou vzniknout. UI se totiž stává sofistikovanější a nezávislejší.
Například, pokud vlastník firmy dá pokyn agentovi UI, aby zvýšil zisky jeho společnosti a bot se dopustí podvodu, měl by být zodpovědný vlastník firmy, který ho „najal“, nebo společnost, která ho původně vyvinula a vyškolila?
Podle Weila je jednou z obtíží při vypracovávání právních předpisů o odpovědnosti za používání UI to, že lidé, kteří si nejvíce uvědomují rizika spojená s touto technologií, pracují v samotných společnostech. Navrhuje přijmout zákony, které jasně definují, že konečnou odpovědnost za používání UI nesou vývojáři technologie.
https://zavtra.ru/blogs/otvetstvennost_ii_za_prestupleniya
Finančním darem pomůžete s náklady na provoz a údržbu webu, zároveň ohodnotíte naši práci se zpracováváním informací, které pravidelně přinášíme bez reklam. Děkujeme
Účet CZK- 2596759016/3030. CZ24 3030 0000 0025 9675 9016
Účet EUR – CZ02 3030 0000 0025 9675 9024. BIC – SWIFT AIRACZPP
