The crybabies who freak out about The Communist Manifesto appearing on university curriculum clearly never read it - chapter one is basically a long hymn to capitalism's flexibility and inventiveness, its ability to change form and adapt itself to everything the world throws at it and come out on top:
Some "open AI" is much more open than the industry dominating offerings. There's #EleutherAI, a donor-supported nonprofit whose model comes with documentation and code, licensed #Apache2. There are also some smaller academic offerings: #Vicuna (UCSD/CMU/Berkeley); #Koala (Berkeley) and #Alpaca (Stanford).
These are indeed more open (though Alpaca - which ran on a laptop - had to be withdrawn because it "hallucinated" so profusely).
Ich habe mal #gpt4all herunterladen und eines der größeren getunten 13B Modelle getestet. Es ist auf jeden Fall langsamer, als #ChatGPT 3.5 zu sehr schlechten Zeiten. Auch wird der Kontext nicht 100% gemerkt. Man muss sich im Prompt immer wiederholen, damit das Modell nicht den Faden verliert.
Aber schon recht gute Ergebnisse, benötigt keine Cloud und es werden keine Daten versendet (wenn man es nicht will).
Aber CPU nutzt es maximal 25%, das wird mit meinen Cores nicht ausgereizt.
Was ähnlich schlecht, wie bei #ChatGPT 3.5 läuft: das #vicuna-Modell (13B 1.1) liefert völlig veraltete Beispiele. Besonders bei WinForms werden über 11 Jahre alte Objekte genutzt, um ein UI aufzubauen. Das funktioniert unter aktuellen Windowsversionen schon nicht mehr.
Die Modelle haben keinen Kontext zu den Versionen von Programmbibliotheken. Da hilft es nicht mal, dass man weiß, dass es bis zum Datum X trainiert wurde. Alles vor Datum X wird einfach vermischt.
A few of my many thoughts on this hot mess of a GPT story, relayed by @kendraserra:
These events really give the lie to the putative imminent replacement of professionals by AI. I’m quite certain some VC out there has money sunk into “LLMs will replace lawyers!” I know they’re trying with coders, therapists, tech support…and…just look at this frigging mess.
@inthehands but the power of generative AI could also leverage people with smaller means than big corporate. I think it was too rapid the way #OpenAI rolls that out in public tho, and changed it as a for profit model. They should change their name. I prefer Open Source #LLM like #Vicuna that which is as good as #GPT3 and #GPT4.
@msprout keep me in touch with the models you're working with. I'm also trying to stay ahead of the curve. #Vicuna is perfect on Apple Silicon M2P, it's almost as fast as #GPT3. I saw also #huggingface made an Open Source alternative to #ChatGPT but it's overloaded.