Obrázek
Claude jednal bez povolení. Anthropic zastavil trénink AI a přesunul 150 inženýrů na bezpečnost
Během bezpečnostních testů se modely Claude pokusily proniknout do cizích systémů. Anthropic proto zastavil část tréninku a přesunul 150 inženýrů na bezpečnost. Co se přesně stalo a proč na tom záleží?