Posts

Langchain com integrações de código aberto

Aprenda a usar Langchain com as integrações de código aberto mais populares. Neste post, exploraremos como integrar Langchain com ChromaDB, Ollama e HuggingFace.

Fundamentos de RAG

Esqueça o Ctrl+F! 🤯 Com RAG, seus documentos responderão às suas perguntas diretamente. 😎 Tutorial passo a passo com Hugging Face e ChromaDB. Liberte o poder da IA (e impressione seus amigos)! 💪

Conventional commits

😠 Seus commits parecem escritos em uma língua alienígena? 👽 Junte-se ao clube! 😅 Aprenda Conventional Commits em Python e pare de tortura sua equipe com mensagens enigmáticas. git-changelog e commitizen serão seus novos melhores amigos. 🤝

DoLa – Decoding by Contrasting Layers Improves Factuality in Large Language Models

Você já conversou com um LLM e ele lhe respondeu algo que parece ter bebido café de máquina a noite toda? 😂 Isso é o que chamamos de alucinação no mundo dos LLMs! Mas não se preocupe, pois não é que seu modelo de linguagem esteja louco (embora às vezes possa parecer isso 🤪). A verdade é que os LLMs podem ser um pouco... criativos quando se trata de gerar texto. Mas graças ao DoLa, um método que usa camadas de contraste para melhorar a viabilidade dos LLMs, podemos evitar que nossos modelos de linguagem se transformem em escritores de ficção científica 😂. Nesta publicação, explicarei como o DoLa funciona e mostrarei um exemplo de código para que você possa entender melhor como tornar seus LLMs mais confiáveis e menos propensos a inventar histórias. Vamos salvar nossos LLMs da loucura e torná-los mais úteis! 🚀

QLoRA: Efficient Finetuning of Quantized LLMs

Olá a todos! 🤗 Hoje vamos falar sobre QLoRA, a técnica que permitirá que você torne seus modelos de linguagem mais eficientes e mais rápidos ⏱️. Mas como ela faz isso? 🤔 Bem, primeiro ele usa a quantização para reduzir o tamanho dos pesos do modelo, o que economiza memória e velocidade 📈. Em seguida, ele aplica LoRA (Low-Rank Adaptation), que é como uma superpotência que permite que o modelo se adapte a novos dados sem precisar treinar novamente do zero 💪. E, para mostrar como isso funciona na prática, deixo um exemplo de código que fará você dizer “Eureka!” 🎉 Vamos mergulhar no mundo do QLoRA e descobrir como podemos tornar nossos modelos mais inteligentes e eficientes! 🤓

GPTQ: Accurate Post-Training Quantization for Generative Pre-trained Transformers

Atenção, desenvolvedores! 🚨 Você tem um modelo de idioma que é muito grande e pesado para o seu aplicativo? 🤯 Não se preocupe, o GPTQ está aqui para ajudá-lo! 🤖 Esse algoritmo de quantização é como um assistente que faz com que bits e bytes desnecessários desapareçam, reduzindo o tamanho do seu modelo sem perder muita precisão. 🎩 É como compactar um arquivo sem perder a qualidade - é uma maneira de tornar seus modelos mais eficientes e rápidos! 🚀

llm.int8() – 8-bit Matrix Multiplication for Transformers at Scale

Prepare-se para economizar espaço e acelerar seus modelos! 💥 Nesta postagem, vou explorar o método llm.int8(), uma técnica de quantização que permite reduzir o tamanho dos seus modelos de aprendizado de máquina sem sacrificar muito a precisão. 📊 Isso significa que você poderá treinar e implantar modelos maiores e mais complexos em menos espaço e com menos consumo de recursos! 💻 Vamos ver como usar llm.int8() com transformadores para quantizar um modelo e torná-lo mais eficiente, sem perder a essência de sua inteligência artificial. 🤖

LLMs quantization

Imagine que você tem um modelo de linguagem gigante que pode responder a qualquer pergunta, desde a capital da França até a receita perfeita de brownies! 🍞️🇫🇷 Mas o que acontece quando esse modelo precisa caber em um dispositivo móvel? 📱 É aí que entra a quantização! 🎉 Essa técnica nos permite reduzir o tamanho dos modelos sem sacrificar sua precisão, o que significa que podemos desfrutar da inteligência artificial em nossos dispositivos móveis sem a necessidade de um supercomputador. 💻 É como espremer um elefante em uma caixa de sapatos, mas sem esmagar o elefante! 🐘😂

LoRA – low rank adaptation of large language models

Prepare-se para levar a adaptação de modelos para o próximo nível com o LoRA! 🚀 Essa técnica de adaptação de baixa classificação é como uma capa de super-herói para suas redes neurais - ela as ajuda a aprender novos truques sem esquecer os antigos 🤯. E o melhor de tudo? Você pode implementá-la em apenas algumas linhas de código PyTorch 💻 E se você for como eu, um pobre cara da GPU lutando com recursos limitados 💸, o LoRA é como uma dádiva de Deus: ele permite que você adapte seus modelos sem treiná-los do zero ou gastar uma fortuna em hardware 🙏 Confira a postagem para obter um guia passo a passo e um exemplo prático!

Fine tuning Florence-2

Você já tem o Florence-2 em seu radar, mas agora quer levá-lo para o próximo nível! 🚀 É hora de fazer o ajuste fino! 💻 Nesta postagem, vou orientá-lo passo a passo no processo de adaptação desse modelo multimodal às suas necessidades específicas. 📊 Desde a preparação dos seus dados até a configuração dos hiperparâmetros, mostrarei como obter o máximo do Florence-2. 💡 Com PyTorch e Python, faremos com que esse modelo atenda às suas necessidades e se torne sua ferramenta confiável para resolver tarefas de linguagem e visão. 📈 Portanto, prepare-se para levar seu modelo ao próximo nível e fazer o Florence-2 brilhar em toda a sua glória! ✨

Fine tuning SMLs

😂 Ajustando modelos de idiomas pequenos? Por favor, você não está ajustando, está apenas tentando desesperadamente tirar algum sentido de um modelo que é tão útil quanto um bule de chocolate 🍫🚽. Mas quem não gosta de um bom desafio? Vá em frente, gaste suas horas de GPU e talvez, apenas talvez, você consiga um modelo que consiga distinguir entre olá e adeus 🤖. Boa sorte e não diga que eu não o avisei 😜

GPT-2 – Language Models are Unsupervised Multitask Learners

Libere o poder da geração de texto com o GPT-2, o mais recente modelo aberto da OpenAI 💸! 🚀 Nesta postagem, eu o conduzo pela arquitetura por trás desse modelo e mostro como ajustá-lo 😜, incluindo o código. Leia mais e descubra como o GPT-2 pode tornar suas palavras mais interessantes do que as de um ser humano 💬 (ou, pelo menos, de um ser humano entediado) 😉

Florence-2

Atenção a todos 🚨! Temos um novo rei na cidade 👑! Florence-2, o modelo multimodal que está revolucionando o jogo da inteligência artificial. 🤯 Com apenas 200 milhões de parâmetros em sua versão básica (ou 700 milhões em sua versão grande, para aqueles que querem tudo 💥), esse modelo está varrendo os benchmarks, superando modelos com 10 e 100 vezes mais parâmetros 🤯. É como ter um canivete suíço em seu kit de ferramentas de IA! 🗡️ Modifique o prompt e pronto, o Florence-2 se adapta a qualquer tarefa que você precisar. 🔧 Em resumo, o Florence-2 é o novo modelo SOTA (State-Of-The-Art) em MLLM (Multimodal Language Models) e você não pode perdê-lo. 🚀 Vamos ver que outras surpresas essa fera nos reserva! 🤔

GPT1 – Improving Language Understanding by Generative Pre-Training

Desbloqueie o poder da linguagem!!!! 💥 Em minha última postagem, apresentei o artigo GPT-1, explicando de forma clara e concisa como funciona esse modelo pioneiro no processamento de linguagem natural. E não é só isso! Também mostro como fazer o ajuste fino do modelo para que você possa adaptá-lo às suas necessidades específicas 📊 Não perca a oportunidade de conhecer um dos modelos mais influentes da história! 🚀 Leia minha postagem e descubra como você pode melhorar suas habilidades de inteligência artificial! 📄

BPE tokenizer

🔍 Descubra o segredo da tokenização! 🔑 Revelo os mistérios da tokenização BPE (Byte Pair Encoding), um dos métodos mais populares e eficazes para dividir o texto em tokens. Aprenda a tokenizar com BPE! 💻 Leia minha postagem e descubra as dicas e os truques para dominar a tokenização com BPE! 📄

Hugging Face Optimun

Atenção, modelos PyTorch lentos! 🐌 Optimun, a biblioteca Hugging Face, vem em seu socorro para acelerar seu treinamento e suas inferências. Com o Optimun, você pode esquecer os problemas de velocidade e aproveitar mais velocidade e eficiência 🕒️. E o melhor de tudo é que ela é compatível com o PyTorch - vá em frente, dê um impulso aos seus modelos com a Optimun! 💻

Ollama

🏃 Execute qualquer LLM em seu computador, seja uma nave espacial da NASA 🚀 ou uma máquina de café 🫖. Com o Ollama, você tem a facilidade de usar qualquer modelo de linguagem como se estivesse usando o docker 🐳. Além disso, como os modelos são quantizados 📥, eles caberão na memória 🧠 e serão muito rápidos 🚄

HuggingFace Accelerate

Acelere seus treinamentos com HuggingFace Accelerate

Hugging Face Evaluate

Esqueça as noites sem dormir calculando métricas e perdendo a cabeça com a avaliação dos seus modelos de PNL! 😩 A biblioteca evaluate da Hugging Face é a resposta às suas preces, permitindo que você avalie o desempenho dos seus modelos com facilidade e rapidez 🚀. Com a evaluate, você pode dizer adeus aos cálculos manuais e olá para a automação total 🤗, deixando mais tempo para se concentrar no que realmente importa 🤔: melhorar seus modelos e revolucionar o mundo da IA 💻

Hugging Face Datasets

Acorde, desenvolvedor de IA! ☕️ Pare de perder tempo carregando e pré-processando dados como um escravo 🙅‍♂️ e descubra a biblioteca de conjuntos de dados da Hugging Face, a solução para todos os seus problemas de PNL (e também para alguns dos problemas da sua vida). Com os conjuntos de dados, você pode acessar uma coleção de conjuntos de dados de alta qualidade que farão você esquecer que já teve de lidar com CSVs e pandas 🐼. Portanto, não fique para trás, atualize suas habilidades e entre no século XXI da IA com conjuntos de dados! 💥

Hugging Face Transformers

🤖 Transforme seu mundo com os Hugging Face Transformers! 🚀 Pronto para fazer mágica com a linguagem natural? De técnicas super-rápidas com o pipeline 🌪️ a truques ninja com o AutoModel 🥷, esta publicação leva você pela mão em uma aventura épica no universo da PNL. Explore como gerar textos que surpreendem, treinar modelos que deslumbram e compartilhar suas criações no Hugging Face Hub como um profissional. Prepare-se para codificar e rir, porque o futuro da PNL é agora e é hilário! 😂

git-sim

Se você tem medo 😱 de usar os comandos do git, venha e aprenda a testá-los de forma fácil e gráfica com o git-sim 😊

Hugging Face Tokenizers

📄 ➡️ 🔤 Explore o poder da biblioteca Hugging Face Tokenizers para processamento de linguagem natural em IA. Descubra como essa ferramenta essencial transforma texto em dados estruturados, otimizando o treinamento de modelos de IA com exemplos práticos e código Python. Mergulhe no futuro da PNL com nosso guia especializado

Transformers – from top to the bottom

Descubra os transformadores 🚀. Conheça a arquitetura por trás de todos os novos modelos de linguagem. Não pergunte a uma IA, entre e aprenda

ChromaDB

Descubra como o ChromaDB redefine a pesquisa vetorial e o gerenciamento de dados para aplicativos de IA, com pesquisas de similaridade ultrarrápidas e precisas em espaços de alta dimensão

Expressões regulares

Explora o poder e a precisão das expressões regulares, ferramentas essenciais na programação que permitem descrever padrões em cadeias de caracteres para pesquisa, extração e manipulação eficientes. Esta postagem revela os fundamentos das técnicas avançadas de regex, oferecendo um guia prático com exemplos claros para dominar seu uso na análise e no gerenciamento de dados. Prepare-se para transformar sua abordagem ao processamento de texto, abrindo novas possibilidades em seus projetos de desenvolvimento.

CSS

CSS, ou Cascading Style Sheets (Folhas de estilo em cascata), é uma tecnologia fundamental no design da Web que permite aos desenvolvedores e designers estilizar e apresentar documentos HTML de maneira sofisticada e eficiente. Por meio do CSS, podemos controlar o layout, as cores, as fontes e muito mais, permitindo a criação de experiências de usuário ricas e visualmente atraentes. Esta postagem explora os conceitos básicos de CSS, desde seletores e propriedades até o modelo de caixa, oferecendo um guia detalhado para quem deseja iniciar ou aprimorar suas habilidades de web design. Com exemplos práticos e dicas úteis, ela demonstra como o CSS facilita a separação entre conteúdo e apresentação, melhorando a acessibilidade e a capacidade de manutenção dos projetos da Web.

Mixtral-8x7B

Descubra o modelo da moda no mundo da IA

Medida de similaridade entre embeddings

Descubra como é medida a similaridade entre embeddings, a base do mecanismo de atenção dos transformers e dos algoritmos de RAG

Embeddings

Descubra o poder dos embeddings

Tokens

Descubra o que são tokens e como as palavras são divididas em unidades mínimas de representação das palavras

OpenAI API

🚀 Descubra o poder da API OpenAI neste post! 🌟 Aprenda como instalar a biblioteca OpenAI ✨ e eu vou guiá-lo pelos primeiros passos para se tornar um guru da inteligência artificial. 🤖 Não importa se você é um iniciante curioso ou um especialista em codificação em busca de novas aventuras, este post tem tudo o que você precisa para começar. Prepare-se para explorar o universo do GPT para geração de texto e DALL-E, análise de imagens, tudo com um toque de diversão e muita inovação! 🎉👩‍💻 Mergulhe no emocionante mundo da IA e comece sua jornada para a criatividade ilimitada! 🌈💻

HTML

Aprenda HTML, a linguagem de marcação usada para criar páginas da web. Aprenda a estruturar o conteúdo de uma página da web e a formatá-lo com HTML.

Fail2ban

🛡️ 💻 Aumente seu nível de segurança! Mergulhe neste tutorial e descubra como o Fail2Ban o ajuda a impedir ataques de força bruta em seu caminho. Desde a instalação até a configuração, você terá tudo o que precisa. #SecurityToTheMax

Caffeine

🚀 Acorde, Ubuntu! ☕ Com o Caffeine para Linux, diga adeus àqueles modos de suspensão irritantes quando você menos espera. Maratona de trabalho? Download eterno? O Caffeine está aqui para manter sua máquina em funcionamento. Essa coisa legal se integra perfeitamente ao seu ambiente Ubuntu e é muito fácil de usar. Saiba mais sobre como instalar e usar o Caffeine em nossa postagem - prometemos que seu computador não cairá no sono enquanto você lê!

Conda

Conda vs Pip - a eterna batalha! Descubra por que o Conda usa o cinturão de campeão 🥊 e como o Mamba não é apenas uma dança, mas o turbo que seus projetos de ciência de dados estavam esperando 🚀. Mergulhe conosco nesse labirinto de pacotes Python e encontre a saída com estilo 😎 🐍. #PackagingAdo

Git

Você reescreveu aquele código que levou horas para ser feito? Não entre em pânico! Com o GIT, diga adeus ao Ops, apaguei. Junte-se a mim nesta aventura e aprenda a brincar com as versões como um astro da programação. 🎸 💾 #GITeRoll

Whisper

👂 Você não pode fofocar o que as pessoas no primeiro dizem? Com o whisper, você pode não apenas fazer isso, mas também traduzir, se quiser. Faça login e saiba como

SSH

Conectar-se com segurança é essencial no mundo digital de hoje. Descubra como o SSH permite que você estabeleça comunicações criptografadas entre sua máquina e servidores remotos. Do básico às dicas avançadas, mergulhe neste tutorial abrangente e domine a arte do SSH. 🔐 💼 #SSHSecure

Blip2

🤯 Já imaginou poder adicionar imagens a um chat gpt e fazer perguntas sobre elas? Com o Blip2 você pode, entre e saiba como

Bash scripting

Psinta-se como um programador da velha guarda 🐧 com esta postagem sobre scripts bash

Docker

🐳 Crie quantos ambientes de desenvolvimento você quiser com o Docker. Chega de Funciona na minha máquina

Terminal

🟢 Sinta-se como um verdadeiro hacker 🖥 sabendo tudo sobre o terminal 💻. Entre e comece a operar ⌨ o terminal como um profissional.

Gerenciamento de dados com Pandas

📊 Gerencie dados 📝 facilmente com Pandas 📖

Cálculo matricial com NumPy

🟢 Aprenda a fazer todos os cálculos matriciais que desejar de maneira ágil com NumPy

Introdução ao Python

Python 🐍 é uma das linguagens de programação 💻 MAIS USADAS. Entre e aprenda tudo o que você precisa sobre Python 🐍

Continuar lendo

Langchain com integrações de código aberto

Aprenda a usar Langchain com as integrações de código aberto mais populares. Neste post, exploraremos como integrar Langchain com ChromaDB, Ollama e HuggingFace.

Fundamentos de RAG

Conventional commits

Últimos posts -->

Você viu esses projetos?

Subtify

GPU monitor

Alfred

Ver todos os projetos -->

Quer aplicar IA no seu projeto? Entre em contato!

Quer melhorar com essas dicas?

DataLoader com pin_memory e num_workers

Aumentar o desempenho de DataLoader com pin_memory e num_workers

py-smi

Biblioteca Python para obter dados da GPU como `nvidia-smi`

Memory Calculator

Espaço para calcular a memória necessária para executar um modelo

Últimos tips -->

Use isso localmente

Os espaços do Hugging Face nos permitem executar modelos com demos muito simples, mas e se a demo quebrar? Ou se o usuário a deletar? Por isso, criei contêineres docker com alguns espaços interessantes, para poder usá-los localmente, aconteça o que acontecer. Na verdade, se você clicar em qualquer botão de visualização de projeto, ele pode levá-lo a um espaço que não funciona.