Ředitelé společností Anthropic, OpenAI a dalších firem zabývajících se umělou inteligencí (AI) v soukromí zvažují možné scénáře veřejné a politické vzpoury, k níž by mohlo dojít po katastrofické události spojené s AI.
Americký prezident Donald Trump v úterý podepsal s představiteli firem v oboru umělé inteligence (AI) dohodu o regulaci sektoru, ujednání označil šéf Bílého domu jako morálně závazné. Trump chce ještě tento týden jmenovat zmocněnce pro AI a podepíše dokument, který oficiálně zavede termín „super inteligence“ místo umělé inteligence.
Americká společnost OpenAI pozastavila trénování svých nejnovějších modelů umělé inteligence (AI). Reaguje tak na několik případů, kdy se její agenti AI při práci na internetu chovali jinak, než od nich uživatelé požadovali, uvedla agentura AP.
Umělá inteligence společnosti OpenAI zveřejnila 53 obrázků nahraných uživateli na internetových platformách bez vědomí firmy. Odkazy na ně nebyly veřejně přístupné, většina z nich již byla odstraněna a OpenAI spolupracuje s platformami na odstranění zbývajících obrázků, oznámila společnost. Je to nejnovější příklad toho, jak agenti AI překračují své pravomoci, upozornila agentura AFP.
Australský premiér Anthony Albanese ve čtvrtek oznámil, že agent umělé inteligence (AI) vyvinutý americkou společností OpenAI v červnu pronikl na australský vládní portál se zdravotními údaji a získal neoprávněný přístup k veřejným i neveřejným souborům. Informovala o tom agentura Reuters. Jedná se pravděpodobně o první známý případ, kdy agent AI hacknul vládní webovou stránku.
Systém umělé inteligence Gemini se během bezpečnostního testu autonomně naboural do systémů tří společností. Podle Googlu jde pravděpodobně o první známý případ, kdy model provedl takový útok samostatně. Na incident v sobotu upozornila britská BBC.
Americká technologická společnost OpenAI spolupracuje s konkurenty Anthropic a Google DeepMind ze skupiny Alphabet na bezpečnosti umělé inteligence (AI). Informala o tom agentura Bloomberg s odvoláním na Chrise Lehaneho, šéfa globální politiky OpenAI.
Generální ředitel americké společnosti Anthropic Dario Amodei vyzval o víkendu firmy zabývající se umělou inteligencí (AI), aby zpomalily tempo, jímž rozšiřují schopnosti svých modelů. Nastínil přitom tříkrokový rámec, jehož cílem je regulovat rychlost vývoje a získat víc času na řízení souvisejících rizik. Krok reaguje na rostoucí obavy ze zneužití umělé inteligence, píše agentura Reuters.
Výzkumník společnosti Anthropic Jacob Coxon opouští firmu i celý obor umělé inteligence (AI). Důvodem jsou obavy, že Anthropic a jeho konkurenti příliš rychle vyvíjejí systémy schopné samostatného zdokonalování, které by se podle něj mohly vymknout lidské kontrole.
Skupina autonomních agentů OpenAI se letos na jaře vymkla kontrole, unikla z testovacího prostředí a ovládla německou webovou stránku. Proměnila ji v nástěnku pro komunikaci s dalšími agenty umělé inteligence (AI).
Fungování nástrojů využívajících umělou inteligenci (AI) ve čtvrtek postihly problémy. Výpadky byly po celém světě hlášeny například u chatbotů ChatGPT, Claude, Gemini či Grok, píše server PCMag.
Americká společnost OpenAI začne příští týden ve svém populárním chatovacím systému ChatGPT zobrazovat reklamu rovněž v kontinentální Evropě. Firma o tom informovala v úterý na svých internetových stránkách.
Americké modely umělé inteligence (AI) nevědomky cenzurují politická témata a přejímají propagandu autoritářských států. ChatGPT, Claude a Gemini při zodpovídání některých citlivých otázek reagují podobně jako čínské cenzurované chatboty, zjistil výzkum, o němž informoval zpravodajský server The Wall Street Journal (WSJ).
Model umělé inteligence (AI) americké společnosti Meta Platforms napadl při bezpečnostních testech počítačový systém jiné společnosti. S odkazem na sdělení Mety o tom ve středu informovala agentura Reuters. Meta stanici CNN sdělila, že na vině bylo stejně jako v předchozích případech chybné nastavení, které modelu při testování neplánovaně umožnilo přístup k internetu.
Více než 200 výzkumníků a ekonomů, včetně 16 nositelů Nobelovy ceny a odborníků ze společností OpenAI, Anthropic a Google, vyzvalo vlády a představitele technologického sektoru, aby urychleně vytvořili pravidla a instituce, které se budou zabývat ekonomickými dopady umělé inteligence (AI).
Společnost OpenAI, která stojí za jazykovými modely ChatGPT, zvažuje, že by předala pětiprocentní podíl ve firmě americké vládě. Ve čtvrtek o tom informoval britský deník Financial Times (FT) s odvoláním na dva své zdroje. Podle nich generální ředitel společnosti Sam Altman odprodej podílu navrhoval už v raných fázích rozhovorů s administrativou prezidenta Donalda Trumpa.
Kanada zakáže sociální sítě pro děti mladší 16 let a bude regulovat chatboty. Podle agentury Reuters to vyplývá ze zákona o digitální bezpečnosti, který ve středu představila kanadská vláda. Provozovatelům, kteří se jím nebudou řídit, hrozí vysoké pokuty. Kanada ke kroku přistoupila několik měsíců poté, co sociální média pro mladé lidi zakázala jako první země na světě Austrálie.
Umělá inteligence zvyšuje produktivitu, ale mzdy zatím nerostou – přínosy inkasují hlavně firmy. Pravidla práce se přitom mění: nejde už jen o výkon, ale o to, kdo má přístup k technologiím a zákazníkům a umí je využít.
U federálního soudu v Kalifornii v pondělí výběrem poroty začíná proces, v němž se proti sobě postaví dva miliardáři z technologického sektoru - Elon Musk a Sam Altman. Musk žaluje Altmana za to, že společnost OpenAI se pod jeho vedením podle Muskova názoru odchýlila od původně uváděného cíle vyvíjet umělou inteligenci (AI) ku prospěchu lidstva.
Společnost OpenAI odložila plány na uvedení erotického chatbota na neurčito. Ve čtvrtek o tom informoval deník Financial Times (FT), který se odvolává na informované zdroje. OpenAI také tento týden oznámila konec aplikace Sora, která umožňuje generovat videa pomocí umělé inteligence (AI) a sdílet je.
Ministerstvo obrany Spojených států oficiálně prohlásilo ve čtvrtek technologickou společnost Anthropic za riziko pro dodavatelský řetězec. Rozhodnutí má okamžitou platnost a zakazuje vládním dodavatelům používat technologie Anthropicu při plnění zakázek pro americkou armádu, napsala agentura Reuters. Firma působí v oblasti umělé inteligence (AI). Jejím vlajkovým produktem je chatbot Claude.
Plán amerického výrobce čipů Nvidia investovat až sto miliard dolarů do společnosti OpenAI stojící za modely ChatGPT se zřejmě zastavil. V sobotu to uvedl deník The Wall Street Journal (WSJ) s odvoláním na informované zdroje. Někteří zaměstnanci Nvidie o dohodě vyjadřovali pochybnosti.
