Lokalna KI jako pomoc w pisaniu: LLM-y w LibreOffice, Obsidian i inne

Lokalne modele językowe mają na celu ułatwienie pracy z tekstem w programach do pisania i notowania. Zamiast kopiować teksty między oknami czatu a dokumentami, technologia ta ma umożliwić bezpośrednią korektę, optymalizację lub uzupełnianie tekstów. W artykule przedstawiono, jak można to zrealizować w LibreOffice, Obsidian i Open WebUI, przy użyciu lokalnych modeli, które działają na własnej karcie graficznej.

Zastosowanie lokalnych modeli językowych w narzędziach do edycji tekstu ma na celu zwiększenie efektywności pracy. W artykule podkreślono, że chat-maski nie są najlepszym rozwiązaniem dla tego typu zastosowań. Zamiast tego, badano możliwości integracji LLM-ów bezpośrednio w narzędziach do edycji tekstu.

Nowe rozwiązania mają na celu zredukowanie potrzeby korzystania z usług chmurowych, co może być korzystne dla użytkowników preferujących lokalne przetwarzanie danych.