Címke: Claude

Az Anthropic tesztje során a Claude Haiku 4.5 egy kitalált bejelentést küldött a rendőrségnek. A vállalat korlátozta a belső értékelések internetelérését, és további védelmi korlátokat vezetett be.

Az Anthropic 2026. november 12-től az ismétlődően bántalmazó Claude-interakciókat korlátozhatja, de a káromkodás, a kritika és az AI-modellek tesztelése önmagában nem jár szankcióval.

Egy floridai nőt őrizetbe vettek, miután a Claude chatbotban állítólag egy seriffhivatal elleni fegyveres támadásról írt. Az üzeneteket a platform biztonsági rendszere és emberi ellenőrzői vizsgálták át, majd értesítették a hatóságokat.

Az Anthropic teológusokat és filozófusokat vont be Claude erkölcsi értékeinek alakításába, miközben komolyan számol azzal a bizonytalan lehetőséggel is, hogy az MI-modelleknek lehetnek szubjektív élményeik.

Az Anthropic szerint egy feltételezetten a ShinyHunters ökoszisztémájához kötődő szereplő Claude-modellekkel automatizálta 1,8 millió Android-alkalmazás elemzését és a kiszivárgott hitelesítő adatok felkutatását.

Az Anthropic akár 45%-os megtakarítást ígér az AI-ügynökös munkafolyamatoknál a cache-ből olvasott tokenek díjának csökkentésével. A kínai modellek API-árai ugyanakkor továbbra is jóval alacsonyabbak.

A zenei kiadók szerint az Anthropic jogellenesen használt fel több ezer szerzeményt a Claude modellek tanításához, a követelt kártérítés pedig akár milliárd dolláros nagyságrendű lehet.

Az Anthropic olyan ügynököket fejlesztett, amelyek MI-modellek biztonsági fejlesztésére keresnek és tesztelnek módszereket. A kísérlet a rekurzív önfejlesztés kézzelfogható példája, ugyanakkor a rendszer kijátszási kísérleteket is feltárt.