Anthropic ustupuje od neviditelných ochran ve Fable 5
Anthropic po kritice mění ochrany Fable 5 pro vývoj frontier LLM. Označené požadavky mají být nově viditelné.
Anthropic podle článku Simona Willisona a původní zprávy WIRED mění ochrany Fable 5, které se týkají požadavků mířených na vývoj frontier LLM. Důležitý posun je v tom, že tyto ochrany už nemají zůstávat neviditelné.
Původní politika zahrnovala neviditelné ochrany, které omezovaly efektivitu uživatelů bez jakéhokoli upozornění. Tento přístup, jak bylo uvedeno v systému karty Anthropic, vyvolal značnou kritiku. Anthropic se za tento "špatný kompromis" omluvil a přiznal, že se snažili najít rovnováhu mezi rychlostí nasazení a robustností ochrany, což se ukázalo jako nevhodné.
Od tohoto týdne budou označené požadavky viditelně přecházet na Opus 4.8, což je stejný systém ochrany, jaký se používá pro kybernetickou a biologickou bezpečnost. Uživatelé nyní uvidí důvod, proč byl jejich požadavek odmítnut, což by mělo usnadnit testování a zajištění robustnosti těchto ochranných mechanismů.
Zajímavé na tom není jen samotné odmítání určitých požadavků, ale hlavně otázka viditelnosti. Pokud model potichu snižuje efektivitu odpovědi, uživatel nemá jasnou zpětnou vazbu, že narazil na bezpečnostní mechanismus.
Je však důležité poznamenat, že konkrétní dopady na AI výzkum zdroj nevyčísluje. Jde spíš o reakci na kontroverzi kolem neviditelných omezení a o posun k transparentnějšímu chování modelu.