Ist der neue Chip eine krasse Revolution? Bringt das große Änderungen? Oder ist das mehr so wie der Werbesticker "mehr AI" drinnen zum besseren Verkauf?
@bookstardust eine GPU auf AI-beschleunigung zu optimieren ist halt ein vergleichsweise neues Optimierungsziel. Dafür in Anbetracht des aktuellen Hypes krasse Optimierungen zu machen, ist naheliegend.
Diese Prozentzahlen sind kein technologischer Durchbruch sondern das Ergebnis von "ach, ihr zahlt beliebig viel Geld für schnellere AU-Bescheiniger? Warum habt ihr das nicht gleich gesagt"
Ohne den aktuellen Hype würde sowas niemand bauen, weil diese Systeme zwangsläufig absurd teurer sind
@bookstardust achja und mit 4, oder 6bit floating point statt 16 oder 32bit zu rechnen und nur "floating point operations" zu zählen, ist ein Taschenspielertrick.
Für dieses KI Zeugs nutzt man oft eben sehr sehr kleine Zahlen, die nur sehr wenige Bits brauchen. Also bekommst du mehr Operationen, mit der gleichen Transistorzahl, wenn du damit leben kannst, dass deine Zahlen extrem ungenau sind.
Add comment