#nobridge

  • 1 Post
  • 843 Comments
Joined 1 year ago
Aquileo | cake
Cake day: March 14th, 2025

Aquileo | help-circle


  • anamethatisnt@sopuli.xyztoSelfhosted@lemmy.world[AIT] Local LLM for Server Setup Guidance?
    Aquileo | link
    Aquileo | fedilink
    English
    Aquileo | arrow-up
    2
    ·
    Aquileo | edit-2
    6 days ago

    Easy setup would be to use koboldcpp + SillyTavern + Gemma 4 26B A4B GGUF of the largest quant your graphics card can fit together with your context.
    Remember to setup SillyTavern to allow network connections and create a user and password, default installation is localhost only.
    Set the temperature to 0.3 if using IQ3_M, higher quants allow higher temperature, and make sure all the formatting templates inside Advanced Formatting are set to Gemma 4.

    Then use either Gemma 4 itself or the free google.com AI to create some “W++ Denze with Horizontal Lines summaries for Gemma 4” of the relevant documentation of the latest version of the home server apps your friends are gonna install.
    You should ensure the resulting lorebook entries are no more than 1k tokens each to leave some context for your friends chats, add it to a character card in SillyTavern and set some keywords to allow them to load dynamically and not stay in context memory all the time.

    Regarding the character card you can ask Gemma 4 to write that for you too, I find “Write a character card in W++ Denze with Horizontal Lines style for Gemma 4 with this name, personality, attitude and skillset” works well for that.
    Then ask it to write a “First message prompt that starts with X, continues with Y and ends with Z for that character card” and you get a first draft to rewrite and paste into the “First Message” of the character card. The first message works as a template that Gemma 4 will imitate when you chat with it. Then simply try the chatbot out before letting others use it.

    I find my own Gemma 4 26B A4B IQ3_M works well for practicing hiragana and katakana, discussing programming or troubleshoot existing code or writing a small function but it can’t be expected to write a correct DatabaseService.cs from scratch and stuff like that.

    Oh and forget about finding good cards and lorebooks for SillyTavern use online, most users use it for NSFW Roleplaying chats. It is a very easy UI to use to create harnesses for your local LLM though.













  • anamethatisnt@sopuli.xyztoGames@lemmy.worldI Hate Native Linux Games
    Aquileo | link
    Aquileo | fedilink
    English
    Aquileo | arrow-up
    22
    Aquileo | arrow-down
    1
    ·
    29 days ago

    I can agree that an old and buggy version of a game is no fun. But that is as true of Windows versions as Linux versions.

    You seem to have much worse luck when starting linux native games than I though. I have no problem with Factorio, Oxygen Not Included or Kingdoms and Castles which I think are the only linux native games I got installed at the moment.
    The thing I find much more frequently is that a game released on GOG doesn’t receive the patches and dlc that the developer release on Steam. I always have to verify that a developer actually support their GOG release as well as Steam before buying.






  • anamethatisnt@sopuli.xyztoSweden@lemmy.worldVilka sociala medier kommer få åldersgräns?
    Aquileo | link
    Aquileo | fedilink
    Aquileo | arrow-up
    4
    Aquileo | arrow-down
    1
    ·
    1 month ago

    Här är utredningsförslaget
    https://www.regeringen.se/rattsliga-dokument/statens-offentliga-utredningar/2026/06/sou-202635/

    Utredningens förslag
    Utredningen föreslår att det införs en ny lag som innehåller en åldersgräns för tillgång till sociala medier.
    Åldersgränsen är formulerad som att ett barn inte före det år barnet fyller 15 år får ha tillgång i inloggat läge till onlineplattformar som gör det möjligt för slutanvändare att

    1. upptäcka, ansluta sig till och kommunicera med varandra, och
    2. med allmänheten dela och upptäcka innehåll.

    I förslaget ligger också att lagen förses med vissa undantag.
    Den första kategorin av undantag rör onlineplattformar som tillhandahålls av vissa aktörer.
    Undantagna aktörer är dels så kallade mikroföretag och små företag, dels civilsamhällets organisationer.

    Förslaget är alltså att en plattform som annars skulle ha träffats av lagens tillämpningsområde men som tillhandahålls av en sådan aktör inte omfattas av åldersgränsen.
    Den andra kategorin av undantag rör onlineplattformar som har ett visst huvudsakligt användningsområde. De huvudsakliga användningsområden som föranleder undantag är att

    1. spela dataspel,
    2. annonsera om varor eller tjänster,
    3. delta i professionella nätverk,
    4. utveckla och dela öppen källkod, och
    5. lagra och dela information om fysisk aktivitet.

    Förslaget är alltså att en plattform som annars skulle ha träffats av lagens tillämpningsområde men som har något av dessa huvudsakliga användningsområden inte omfattas av åldersgränsen.