ErikJonker, to llm
@ErikJonker@mastodon.social avatar

Nog nooit echt plezier gehad van glasvezel met Gigabit snelheid maar nu wel fijn met het downloaden van Mixtral-8x7B-Instruct , 30 GB 😆
https://github.com/Mozilla-Ocho/llamafile

ErikJonker,
@ErikJonker@mastodon.social avatar

@cbontenbal ...het was me al gelukt het kleinste model direct te draaien (zie beschrijving op genoemde Github), nu het grootste model met de gewichten apart omdat windows geen executable groter dan 4GB aan kan 😀 . Betreffende opensource modellen zijn nog een stuk slechter als GPT4 maar het experimenteren vind ik interessant in mijn vrije tijd.

  • All
  • Subscribed
  • Moderated
  • Favorites
  • megavids
  • mdbf
  • ngwrru68w68
  • modclub
  • magazineikmin
  • thenastyranch
  • rosin
  • khanakhh
  • InstantRegret
  • Youngstown
  • slotface
  • Durango
  • kavyap
  • DreamBathrooms
  • JUstTest
  • GTA5RPClips
  • tacticalgear
  • normalnudes
  • tester
  • osvaldo12
  • everett
  • cubers
  • ethstaker
  • anitta
  • Leos
  • cisconetworking
  • provamag3
  • lostlight
  • All magazines