Tootfinder

In #Deutschland wird man kriminalisiert, wenn man sich für IT #Sicherheit interessiert. Seit 2007 gibt's einen #Hackerparagrafen im Gesetzbuch, wonach man mit einem Bein im Gefängnis steht, wenn…

«Methoden aus der #Psychologie decken massive Schwächen in KI-Sicherheitstests auf:
Ein #KI-Modell kann seinen #Sicherheit'sscore einfach dadurch verbessern, dass es pauschal mehr Anfragen blockiert. …

Methoden aus der Psychologie decken massive Schwächen in KI-Sicherheitstests auf
Forscher des UK AI Security Institute zeigen mit psychometrischen Methoden, dass gängige Sicherheitsbenchmarks für Sprachmodelle keine einheitliche Eigenschaft messen. Ein pauschales Blockieren von Anfragen kann den Safety-Score künstlich heben, während das Modell im Alltag unbrauchbarer wird. Zugleich liefert die Studie ein Verfahren, das Modelle entlarvt, die sich bei Tests absichtlich vorsichtiger geben als im normalen Einsatz.

Glaube, dass ich damit (#Sicherheit der #Schweiz beitrage …