Bawi się ktoś może w programowanie #chatbot w #Llamaindex lub #langchain ? Mnie osobiście w tym temacie najbardziej interesują tzw "agenty" czyli funkcje pozwalające modelom uruchamiać różne systemy zewnętrzne za pomocą języka naturalnego. Np. "wyceń mi tłumaczenie plików A i B", bot uruchamia API parsujące pliki, potem program liczący znaki, potem model zgadujący jaki model tłumaczeniowy użyć (np. prawniczy, medyczny itp), a na koniec tłumaczy, podlicza cenę i uruchamia API płatności. Czyli sterujesz nim konwersacją a nie skomplikowanym statycznym formularzem. Niedługo zamiast pisania będzie sie do niego mówiło zapewne.
#ai
alq

Bawię się tym dosyć mocno w ostatnim czasie i ma to naprawdę fajne możliwości. Chociaż langchaina dopiero będę do tego zaprzęgał. Na ten moment sam dla funu zbudowałem coś, co weryfikuje mi polecenia i ładuje odpowiednie moduły, które się wykonują. Rozwiązania pokroju "puść mi piosenkę" zrobiłem sobie z wykorzystaniem make i naprawdę nieźle to funkcjonuje

mortt

bawię się. Buduję chat ui + api. Langchaina porzuciłem po około tygodniu. Dokumentacja jest słaba, rozwiązania mało elastyczne. Jak tylko chcesz coś skomplikować langchain się obraża i koniec. Aktualnie robię workflow buildera do llm.


edit: co do mowienia to juz dawno zostalo obsluzone, jedyny problem to, to, że przy lokalnych modelach jest pauza pomiedzy pytaniem a odpowiedzia

tmg

@alq @mortt widzę, że macie podobne zdanie o LangChain jak ja Na każdym etapie czekają pułapki i trzeba robić jakieś obejścia by w ogóle zaczęło działać. Dlatego skupiam się raczej na LlamaIndex który ma podobne możliwości i jest dużo prostszy. Jestem jeszcze początkujący w te klocki a i technologia nie jest jeszcze opanowana (modele potrafią wciąż zachować się nieprzewidywalnie i zrobić coś głupiego). Ale cieszę się, że działacie w temacie to będę miał się kogo spytać jak gdzieś utknę na amen

mortt

@tmg llamaindex też sobie odpuściłem

Vuaaas

@mortt Porzucisz jakieś spoko materiały albo książki dot. tematu?

mortt

@Vuaaas zależy czego szukasz

Zaloguj się aby komentować