#11 GenAI i LLM - Wszystko, co musisz wiedzieć, zanim zaczniesz działać | Mariusz Korzekwa

Nie uczysz się AI? Spokojnie, AI już uczy się, jak Cię zastąpić!

🔔 Subskrybuj, aby nie przegapić nowych odcinków!

Tym razem moim gościem jest Mariusz Korzekwa, ekspert od #AI specjalizujący się w #promptEngineeringu i integracjach z #LLM-ami.

W tym odcinku rozmawiamy o modelach językowych (LLM) i ich zastosowaniach w sztucznej inteligencji. Poruszamy temat generative AI, omawiając jego definicję oraz kluczowe różnice między LLM a klasyczną AI. Analizujemy znaczenie multimodalności, a także roli inputu i outputu w kontekście działania modeli.

Dyskutujemy o istotnych aspektach modeli LLM, takich jak długość kontekstu, bezstanowość, znaczenie promptów i tokenów oraz wpływ knowledge cut-off na jakość generowanych odpowiedzi. Przyglądamy się ewolucji modeli AI, ich parametrom, wydajności oraz roli open-source w rozwoju tej technologii.

W rozmowie nie zabrakło omówienia architektury LLM oraz zjawiska halucynacji – zarówno jako wyzwania, jak i potencjalnie użytecznej cechy w generowaniu treści. Skupiamy się na znaczeniu kontekstu w interakcji z modelami, a także technice RAG, pozwalającej na dynamiczne wzbogacanie kontekstu o dodatkowe informacje.

Poruszamy temat benchmarków jako kluczowego elementu oceny wydajności modeli AI, podkreślając, jak ich odpowiedni dobór wpływa na skuteczność modeli w różnych zastosowaniach. Omawiamy również LLM Arena i jej rolę w testowaniu modeli oraz znaczenie kontekstu window w interakcjach z AI.

Wprowadzamy pojęcie ChatML i jego wpływ na strukturyzację danych wejściowych w komunikacji z LLM. Przyglądamy się technikom inżynierii promptów, w tym metodzie Chain of Thought, oraz dobrym praktykom programowania w Pythonie, które mogą zwiększyć efektywność generowania treści.

Rozmowa obejmuje także techniki self-query, pozwalające modelom AI samodzielnie formułować pytania w celu uzyskania precyzyjniejszych odpowiedzi. Analizujemy podejścia takie jak few-shot i chain of thought, a także omawiamy zasady tworzenia skutecznych promptów. Przywołujemy metaforę kartki, aby zobrazować, jak kluczowe jest precyzyjne formułowanie komunikacji z modelami AI.

Dyskutujemy o wpływie języka na skuteczność komunikacji z LLM oraz metodach ewaluacji promptów, prezentując praktyczne zastosowania AI w różnych dziedzinach, ich wpływ na automatyzację i przyszłość rynku pracy.

Rozmawiamy o hiperautomatyzacji i jej roli w zmienianiu wykonywania prostych zadań, zastanawiając się nad przyszłością programowania i miejscem LLM w tym procesie, udzielając wskazówek dla początkujących.

⭐️ Zobacz też:

- #9 AI jako broń masowej dezinformacji? - Hodowanie umysłów i manipulacja za grosze | Piotr Brzyski https://www.youtube.com/watch?v=fhpw_5-GWHg

- #5 Jakub Mrugalski - zautomatyzuj zadania, zyskaj czas na kreatywność https://www.youtube.com/watch?v=gEhMWWaXfkQ

- #4 Mateusz Chrobok - jak obchodzić zabezpieczenia #AI i chronić aplikacje z sztuczną inteligencją https://www.youtube.com/watch?v=AWC6c-fOcFE

- #1 Grigorij Dudnik | Agenty AI - Klucz do automatyzacji programowania https://www.youtube.com/watch?v=tOPKf9XiVXo

🎙 Prowadzący:

🔹Krzysztof Tutak - https://www.linkedin.com/in/krzysztof-tutak/

🔗 Kontakt:

👉 LinkedIn: https://www.linkedin.com/in/mariuszkorzekwa/

👉 x: https://x.com/maledorak

📚 Materiały omawiane w odcinku:

👉 Prompting guide: https://www.promptingguide.ai/

👉 OpenAI cookbook: https://github.com/openai/openai-cookbook

👉 Anthropic cookbook: https://github.com/anthropics/anthropic-cookbook

👉 How to writing prompts: https://www.reddit.com/r/WritingPrompts/

👉 LM Arena: https://lmarena.ai/

👉 Leaderboards: https://aider.chat/docs/leaderboards/

👉 SWE bench: https://www.swebench.com/

👉 Midjourney: https://www.midjourney.com/

👉 Leonardo: https://leonardo.ai/

👉 DALL-E: https://openai.com/index/dall-e/

👉 Perplexity https://www.perplexity.ai/

👉 Claude: https://claude.ai/

👉 ChatGPT: https://chatgpt.com/