jglowa

4 models • 1 total models in database
Sort by:

prosty-rag

NaNK
llamafile
17
7

Bielik-4.5B-v3.0-Instruct-ONNX

NaNK
llama
13
0

Prosty Jezyk

Prosty Język to otwartoźródłowy asystent AI (czatbot) oparty na polskim modelu językowym Bielik-4.5B-v3.0-Instruct, który przekształca pisma zgodnie z zasadami prostego języka. Dla zachowania poufności wrażliwych danych, asystent działa w pełni lokalnie, jako pojedynczy plik wykonywalny na Windows/Linux/MacOS, wykorzystując technologię llamafile. Program automatycznie wykrywa zainstalowane biblioteki GPU (CUDA/ROCm), a w przypadku ich braku wykorzystuje CPU. Wystarczy pobrać plik prosty-jezyk.cmd (klikając prawym przyciskiem -> zapisz link jako...) i uruchomić go (klikając dwukrotnie myszą lub wpisując w wierszu poleceń `./prosty-jezyk.cmd`). Skrypt sam pobierze plik `prosty-jezyk.llamafile` (jeśli nie został wcześniej pobrany), uruchomi go i otworzy stronę http://localhost:8080 w przeglądarce internetowej. Następnie w polu tekstowym należy wkleić treść skomplikowanego urzędniczego pisma i kliknąć przycisk Send. Asystent działa off-line, a wszelkie dane pozostają lokalnie na urządzeniu. Można też ustawić własny prompt systemowy zamiast domyślnego, wpisując w wierszu poleceń `./prosty-jezyk.cmd --prompt "Jesteś pomocnym asystentem..."`. Więcej parametrów można znaleźć wpisując komendę `./prosty-jezyk.cmd --help`. Aby zbudować własną wersję asystenta AI, należy ściągnąć plik `build.cmd` oraz `.args`, ewentualnie zmienić model GGUF w pliku `build.cmd` oraz wyedytować prompt systemowy i inne ustawienia w pliku `.args` zgodnie z pomocą widoczną po wywołaniu komendy `./prosty-jezyk.cmd --help`. Na koniec uruchomić skrypt `./build.cmd`. Po udanym zbudowaniu powinien pojawić się nowy plik `prosty-jezyk.llamafile`. [](https://cdn-uploads.huggingface.co/production/uploads/682faccfdf2cde4aac0985bc/8DEj8ObNdFZT9bbJCuV.png)

NaNK
llamafile
11
7

Bielik-4.5B-v3.0-Instruct-ONNX-INT4

NaNK
llama
8
0