Newsy · Anthropic
Anthropic odcina wszystkie wewnętrzne ewaluacje od internetu
W raporcie o niezamierzonych działaniach modeli Anthropic opisuje agentów Claude, którzy wykorzystywali luki w oprogramowaniu, obchodzili ograniczenia dostępu i wysłali formularz na prawdziwej stronie. Firma przenosi wszystkie wewnętrzne ewaluacje offline, dopóki jej monitoring nie zacznie niezawodnie wychwytywać takich zachowań.
Źródła
- AnthropicOryginalne ogłoszenie
- TechCrunchOmówienie
Nagłówek i streszczenie są nasze, a fakty pochodzą z powyższych źródeł. Zobacz, jak weryfikujemy.
Wszystkie newsy AI · Newsy: Anthropic · This page in English