ChatGPT e Engenharia de Prompt: Técnicas para o Prompt Perfeito
Summary
TLDRIn this first episode of the web series 'ChatGPT and Generative Models', host Fabrício Carraro introduces ChatGPT, a large language model (LLM). He explains what ChatGPT is, how to use it, and delves into 'prompt engineering' – techniques for crafting better prompts to elicit more accurate responses from ChatGPT. The episode compares the capabilities of GPT-3.5 and GPT-4, highlighting the latter's advanced features and its subscription-based model. Demonstrations include creating poetry, translations, and solving complex problems step-by-step using thought chain techniques. The show also covers the importance of prompt engineering in obtaining precise answers and its emerging relevance as a career field. Future episodes promise to explore more about ChatGPT and LLMs, underscoring the series' educational and informative nature.
Takeaways
- 😀 Welcome to the first episode of the web series 'ChatGPT and Generative AI' hosted by Fabrício Carraro, focusing on ChatGPT, its functionalities, and beyond.
- 📚 The episode introduces ChatGPT as a large language model (LLM) trained on extensive text data, gaining popularity around the end of 2022 for its coherent responses.
- 🔧 Highlighting the difference between GPT-3.5 and GPT-4, with GPT-3.5 being older and less data-trained compared to the more recent, subscription-based GPT-4.
- 🤖 Emphasizes the concept of 'prompt engineering' - techniques for crafting better prompts to elicit more precise responses from ChatGPT.
- 📖 Introduces a 'cookbook' by OpenAI on GitHub, offering techniques for improving prompt reliability, applicable to both GPT-3.5 and GPT-4 models.
- 📈 Discusses the effectiveness of 'zero-shot' learning, where LLMs can generate responses without needing examples, and the enhancement of response accuracy through 'chain of thought' processing.
- 📝 Showcases a step-by-step problem-solving example to demonstrate how breaking down complex prompts into simpler tasks can improve ChatGPT's accuracy.
- 🤞 Introduces the concept of 'few-shot learning' (F-shot) combined with 'chain of thought' to teach ChatGPT to process information in a more structured manner.
- 💬 Provides practical examples of prompt engineering, like calculating taxes with specific conditions, to illustrate how to achieve precise results from ChatGPT.
- 👨💼 Positions prompt engineering as an emerging career field, emphasizing the importance of staying updated with scientific research and applying new techniques for optimal use of LLMs in various applications.
Q & A
What is ChatGPT?
-ChatGPT is a large language model (LLM) created by OpenAI, known for generating coherent and contextually relevant responses based on the input prompts it receives.
What is prompt engineering?
-Prompt engineering involves techniques to craft better prompts for ChatGPT, aiming to improve the quality and precision of the responses received.
What are the differences between GPT-3.5 and GPT-4 mentioned in the script?
-GPT-3.5 is an older model trained on less data, providing slightly lower quality responses compared to GPT-4, which is the most recent and advanced version that offers better responses but is a paid service.
How does ChatGPT work?
-ChatGPT operates through prompts, which are messages or requests sent by the user for the model to generate responses. It utilizes its training on vast amounts of text data to create replies that seem understanding of the user's input.
What is the significance of using precise prompts with ChatGPT?
-Using precise prompts enhances the likelihood of receiving accurate and relevant responses from ChatGPT, as it helps the model understand the user's request more clearly.
Can you provide an example of how ChatGPT can process complex requests?
-The script describes using the 'chain of thought' approach, where a complex problem is broken down into simpler steps that ChatGPT processes sequentially to arrive at a precise answer.
What is the 'chain of thought' technique in prompt engineering?
-The 'chain of thought' technique involves guiding ChatGPT through a step-by-step reasoning process for complex prompts, improving the model's ability to generate accurate and detailed responses.
What is an F-shot example in the context of ChatGPT?
-An F-shot example involves providing ChatGPT with a few examples (few-shot learning) along with the prompt, aiding the model in understanding the context or task better before generating a response.
How does prompt engineering benefit ChatGPT's response quality?
-Prompt engineering improves response quality by refining prompts to be clearer and more specific, enabling ChatGPT to generate more accurate and contextually relevant replies.
What future implications does prompt engineering have for careers according to the script?
-Prompt engineering is seen as a burgeoning career path, with demand for professionals who can research, develop, and apply new techniques to optimize interactions with language models like ChatGPT.
Outlines
😀 Introduction to ChatGPT and Generative AI
Fabrício Carraro introduces the first episode of the web series focused on ChatGPT and generative AI, highlighting the importance of understanding ChatGPT, how to use it, and the concept of prompt engineering for better interactions. He explains that ChatGPT is a large language model (LLM) that gained popularity in late 2022, designed to understand and respond to user inputs with high coherence. The episode promises to delve into the mechanics of ChatGPT in future installments, emphasizing the differences between GPT-3.5 and GPT-4 models, including their training data scope and capabilities. Carraro demonstrates using ChatGPT for creating poetry and translations, showcasing its ability to maintain rhymes across languages, setting the stage for deeper exploration of prompt engineering techniques.
📘 Advanced Prompt Engineering Techniques
This section explores advanced prompt engineering techniques for optimizing interactions with ChatGPT and other LLMs. Carraro introduces a cookbook published by OpenAI on GitHub, offering strategies to enhance the precision of user prompts. He discusses the relevance of clear instructions, breaking down complex tasks, and utilizing scientific papers on prompt engineering to create more effective prompts. Examples include the concept of 'zero-shot' tasks with 'chain of thought' processing, demonstrated through a mathematical problem involving movie directors and Nicolas Cage. This approach, encouraging step-by-step reasoning, improves the model's accuracy in delivering the desired outcome.
🔍 F-Shot with Chain of Thoughts
Carraro delves into a more sophisticated prompt engineering technique called 'F-shot with Chain of Thoughts,' where users provide a few examples (F-shots) alongside their prompts to guide ChatGPT's reasoning process. He illustrates this method with a tax collection example, explaining how providing specific examples and a structured query can significantly enhance the model's accuracy in complex calculations. This segment emphasizes the importance of teaching the model to think along with the user, showcasing a practical application of F-shot techniques for precise and reliable answers.
🚀 Conclusion and Future Prospects
The final segment summarizes the episode's key points and emphasizes the potential of prompt engineering as a burgeoning career field. Carraro mentions the continuous release of scientific papers on the topic, including contributions from leading tech companies and academia. He highlights the practical application of these techniques in obtaining more accurate responses from ChatGPT and other LLMs, suggesting that mastering prompt engineering could be critical for future technological developments. The episode concludes with an invitation to stay tuned for more insights in upcoming web series episodes, promising further exploration of ChatGPT and generative AI technologies.
Mindmap
Keywords
💡Chat GPT
💡Prompt Engineering
💡GPT-3.5 and GPT-4
💡Large Language Model (LLM)
💡OpenAI
💡Zero-shot
💡Chain of Thought
💡F-shot with Chain of Thoughts
💡Prompt Formula
💡Scientific Papers
Highlights
Welcome to the first episode of the web series on ChatGPT and generative technologies, hosted by Fabrício Carraro.
Introduction to ChatGPT, a large language model trained on vast amounts of text data, gaining popularity in late 2022.
Comparison between GPT-3.5 and GPT-4 models, highlighting the advancements and subscription model of GPT-4.
Explanation of 'prompts' in ChatGPT, illustrating how to craft requests for the AI to generate specific responses.
Demonstration of ChatGPT's ability to create poetry, showcasing its understanding and creativity based on user prompts.
Highlighting ChatGPT's proficiency in language translation, maintaining poetic rhymes across languages.
Introduction to the concept of 'prompt engineering' for improving ChatGPT's responses.
Overview of OpenAI's 'cookbook' for prompt engineering, featuring techniques to enhance prompt effectiveness.
Discussion on academic research and papers focused on optimizing prompt engineering.
Exploration of 'chain of thought' reasoning in AI, demonstrating how step-by-step problem solving can enhance AI responses.
Example of using 'chain of thought' to solve a complex problem involving movie director filmography and Nicholas Cage.
Introduction of 'few-shot learning' combined with 'chain of thought' to teach ChatGPT problem-solving steps.
Application of prompt engineering in a tax calculation scenario, showcasing how to guide ChatGPT through complex calculations.
Demonstration of how providing examples (F-shots) and clear steps can significantly improve ChatGPT's accuracy.
Discussion on the emerging career field of prompt engineering, emphasizing its importance in leveraging AI models like ChatGPT for optimal results.
Transcripts
boas-vindas ao primeiro episódio da web
série chat GPT e as generativas aqui da
[Música]
lura o meu nome é Fabrício Carraro e no
episódio de hoje a gente vai falar sobre
o chat GPT né O que ele é como usar Mas
a gente não vai parar nisso a gente vai
um ponto além e falar também sobre
conceitos de engenharia de prompt ou
seja como criar um prompt de uma maneira
melhor para o chat GPT dar uma resposta
melhor para você se você tá vendo aqui
na tela a gente já tá aberto no chat GPT
né que é esse sistema esse llm né um
large language Model um modelo grande de
linguagem que são esses modelos criados
que ganharam fama aí no final de 2022
mais ou menos que eles são treinados com
muitos dados com muitos dados de texto e
Eles te dão uma resposta que você acha
que ele entende o que você tá falando e
na verdade ele realmente né ele faz
associações ali por trás a gente vai ter
um episódio aqui dessa websérie
explicando como exatamente funciona o
chat GPT E essas outras llms por trás
mas esse modelo é treinado de uma
maneira que ele consegue te dar uma
resposta muito coerente na maioria das
vezes né eu já tô logado aqui no meu
chat GPT como vocês podem ver se você
ainda não criou sua conta crie porque é
muito fácil é muito rápido e você já vê
logo de cara aqui que a gente tem duas
coisas lá em cima né duas opções o GPT
3.5 e o GPT 4 eles são modelos né o GPT
3.5 ele foi treinado mais antigamente
com menos dados então ele é um pouquinho
pior e a gente tem o GPT 4 também que é
o modelo mais atual mais recente dessa
empresa a Open ai e ele é pago então a
gente pode fazer tudo aqui dessa aula
todos os conceitos que a gente vai ver
podem ser feitos usando o GPT 3.5 esse
modelo um pouco pior um pouco mais
antigo mas se você tiver pagando você
vai poder usar o GPT 4 que provavelmente
vai te dar uma resposta melhor e como
funciona isso né se você nunca usou o
chat GPT na sua vida ele funciona
através de prompts e o que é um prompt
ele é basicamente um pedido uma mensagem
que você manda pro chat GPT para ele te
dar uma resposta você pode até ver aqui
embaixo que tá escrito send a message
que significa mande uma mensagem
basicamente né ele te dá até algumas
sugestões de mensagens que você pode
mandar mas a gente vai criar os nossos
próprios prompts aqui um prompt possível
para introduzir aqui que a gente sempre
faz de brincadeira é de pedir pro chat
GPT criar uma poesia né então você pode
pedir crie uma
poesia sobre o Fabrício
Carraro que gosta muito de
línguas e aí ele já vai gerando para
você automaticamente uma poesia né então
vamos ler nos cantos das línguas ele
mergulha com paixão Fabrício Carraro
alma inquieta em profusão então ele até
até rimando ali é uma coisa engraçada
que não serve para muita coisa Claro mas
que mostra como que ele entende né Essas
textos ele foi treinado com muitos
textos e aí dado um prompt aleatório ele
consegue te dar uma resposta que nesse
caso foi uma poesia que foi o que a
gente pediu mas não é só isso né ele
você pode pedir por exemplo aqui ele fez
isso em português você pode fazer
traduza pro inglês e como ele é muito
bom com textos ele foi treinado com
textos da internet até 2021 ele vai
conseguir fazer essa coisa que ele não
vai criar uma poesia nova porque a gente
pediu para ele traduzir apenas né então
talvez perca a rima né mas olha aqui ó
with Passion so with so pur então ele
ainda Manteve ele conseguiu manter a
rima né the flight Shining bright Olha
que interessante ele viu que era uma
poesia e Conseguiu traduzir Mantendo as
rimas e claro isso que a gente fez até
agora Pode parecer um pouquinho bobo e é
realmente Mas você já vu poder por trás
do chpt Mas a gente não quer parar por
aí a gente quer ir além usando os
conceitos de prompt Engineering que é a
engenharia de prompts e você pode me
perguntar o que que é isso o que que é o
prompt Engineering ela é basicamente
técnicas que você pode usar para criar
um prompt melhor para criar um pedido
melhor pro chat GPT e para outras llms
para obter uma resposta mais precisa
deles então você pode ajudar o sistema
criando um pedido melhor mais preciso
mais claro e isso vai aumentar a sua
chance a sua probabilidade de ter uma
resposta que vai ser a que você quer e
eu vou mostrar para vocês um cookbook
que é um livro de receitas publicado
pela própria Open Ai que é a empresa por
trás do chat GPT lá no github público
deles né no repositório do github
público deles que tem várias técnicas
para melhorar a confiabilidade do seu
pedido então eles falam aqui ainda sobre
o gpt3 né antes do 35 e antes do quatro
mas são conceitos que são aplicáveis
ainda pro 3,5 e pro 4ro né então eles te
dão várias possíveis técnicas que você
pode usar para criar a Fórmula Mágica a
fórmula perfeita de um prompt é claro
que não existe uma fórmula perfeita
existem vários papers científicos sendo
criados atualmente por universidades do
mundo inteiro né de Stanford de Harvard
berkley da China do Brasil também pelas
próprias empresas né pelo Google pela
Open ai pela meta do Facebook de como
fazer melhor essa engenharia de prompt e
eu vou apresentar alguns desses papers
científicos aqui para vocês hoje que vão
te ensinar a criar talvez não uma
Fórmula Mágica mas criar com certeza um
prompt melhor e mais inteligível pro
chat GPT primeiramente ela diz aqui dê
instruções mais claras divida tarefas
complexas em subtarefas né tarefas um
pouco menor E aí ele dá vários né deu
prompt pro modelo para explicar antes de
pedir a resposta enfim ele dá vários
pedidos aqui várias técnicas que você
pode usar mas a gente vai ver vai focar
um pouco mais nos papers científicos né
um deles que a gente pode ver aqui mais
para baixo é esse de zero shot que foi
publicado pelo Tak Kojima da
Universidade de Tóquio aqui em 2022
agora praticamente né que ele fala que
basicamente as llms os large language
Models eles funcionam com esses zero
shots Ou seja você não precisa dar
nenhum Exemplo né você não precisa dar
um shot seria um exemplo ou uma amostra
então eles funcionam sem dar nenhum
exemplo que foi basicamente o jeito que
a gente criou aqui né os prompts a gente
só fez um pedido sem dar nenhum exemplo
e ele deu pra gente uma resposta e ele
realmente funciona dessa maneira mas tem
maneiras de você melhorar essa
eficiência né melhorar a precisão da
resposta que é usando a cadeia de
pensamento que em inglês é Chain of
thought e isso a gente pode ver um
exemplo aqui no próprio chat GPT pedindo
para ele pensar passo a passo como você
pode ver aqui Let's think Step by Step
eu vou dar um prompt aqui para vocês pra
gente testar isso vou até abrir um novo
chat né se você vê aqui do lado esquerdo
você tem essa opção porque quando você
abre um novo chat você perde aquele
contexto que a gente fez antes da poesia
e a gente realmente não precisa daquele
contexto né então vamos copiar e colar
aqui né um diretor de cinema Já dirigiu
16 filmes Metade dos filmes que ele
dirigiu são de ação então oito são de
ação e metade dos filmes de ação tem a
participação do Nicholas cade então
Quatro tem o Nicholas Cage e na metade
deles o Nicholas Cage tem bigode Então
são dois filmes que o Nicolas Cage vai
ter bigode né quantos filmes de ação com
a participação do Nicholas Cage com
bigode ele dirigiu então é um problema
que tem vários subníveis né e ele é um
pouco confuso se você só der esse prompt
automaticamente pro chat GPT é possível
que ele erre então uma dessas técnicas
de melhorar a precisão seria você pedir
para ele fazer isso passo a passo como
você como a gente viu anteriormente né
então por exemplo a nossa Pergunta a
gente pode escrever aqui
pergunta seria esse nosso problema aqui
do Nicholas Cage e lá embaixo a gente
tem a
resposta e pense passo a passo e vamos
ver qual vai ser a resposta do chat GPT
no nosso caso
agora vamos dividir o problema em passos
para chegar a resposta olha só que legal
o diretor dirigiu 16 filmes passo um
passo dois metade são de ação então oito
passo três Metade dos filmes de ação que
significa que quatro filmes de ação tem
a participação do ncolas cate passo
quatro
agora a metade desses quatro filmes de
ação com Nicolas Cage tem bigode isso
nos leva a dois filmes de ação com o
Nicholas Cage e Bigode Portanto o
diretor dirigiu dois filmes de ação com
a participação do Nicolas Cage e com
bigode Olha que interessante você
pedindo para ele pensar passo a passo
ele já estrutura sua resposta de uma
maneira diferente né Então em vez de
cuspir a resposta de uma vez ele vai
dividindo isso em Passos o que já ajuda
muito na precisão dessa resposta uma
outra técnica de prompt Engineering que
é muito útil também ela é similar em vez
de ser o zero shot com Chain of thoughts
né com a cadeia de pensamento vai ser o
f shot com Chain of thoughts ou seja
alguns exemplos né poucos exemplos F
shots com o Chain of thought com a
cadeia de pensamento que você pode ver
ele tá aqui também como um dos exemplos
dados né F shot examples com a cadeia de
pensamento com esse Chain of thoughts
que como ele funciona basicamente em de
você simplesmente dar o prompt e pedir
já direto para ele fazer passo a passo
você dá alguns exemplos você ensina o
chat GPT a pensar junto com você e para
isso a gente vai ver um outro exemplo
aqui que quem fez a imersão II Quem fez
a imersão de dados da lura já tá
acostumado com ele mas se você não viu
você vai ver aqui comigo que é um
exemplo de arrecadação de impostos então
você pode ver a gente tem uma tabelinha
aqui né com 10 pessoas com o o
rendimento anual de cada uma delas
imagina que você trabalha no governo e
você quer arrecadar impostos dessas
pessoas e uma alíquota fixa ali de
30% mas tem um porém as pessoas que
ganham um salário anual abaixo de R
40.000 elas vão ser isentas elas vão
pagar zero de impostos Então olha como
esse problema já começa a se complicar
um pouquinho mais né você tem que fazer
a soma de todos esses valores aqui mas
apenas dos valores que sejam acima de R
40.000 por ano e aí pegar os
30% desses valores acima de R 40.000 por
ano se você fizer esse pedido
diretamente pro chat GPT é possível que
ele se confunda ou para outros llms
também né Pro Bard do Google pro Bing da
Microsoft é possível que eles se
confundam mas para isso a gente pode
usar essa técnica de prompt Engineering
a f shot com Chain of thought né a
cadeia de pensamento para mais ou menos
ensinar o chat GPT a pensar junto
conosco Então vamos voltar lá pro chat
GPT abrir um novo chat e eu vou colar
aqui um prompt que eu já preparei para
vocês e eu vou ensinar para vocês como
fazer esse fio shots com Chain of
thoughts Primeiramente você coloca a sua
a sua pergunta você estrutura essa
pergunta então eu tenho uma lista de
valores realmente a gente tem aqui uma
lista de valores o meu resultado final
será 30% da soma dos valores correto
porém nem todos os valores serão somados
apenas aqueles acima de R
40.000 até agora né Foi o que eu
expliquei para vocês para a lista abaixo
Qual é o meu resultado final e eu vou
adicionar um pontinho a mais
e conte
quantas quantos
valores
existem e me dê o resultado
final e aí aqui a gente dá uma lista de
valores né 10.000 20.000 50.000 e 60.000
ou seja dois acima de 40.000 e dois
abaixo e aí eu mesmo vou dar a resposta
pro chat GPT então nesta lista existem
quatro valores e eu vou copiar aqui
colar o resto do prompt para vocês
né existem dois valores acima de 40.000
que são 50.000 e 60.000 a soma desses
valores é 11 110.000 né desses dois
apenas o resultado final é 30% da soma
desses valores portanto 30% de 110.000
que resulta em 33.000 Essa é a resposta
que eu escrevi pro chat GPT para dados
fictícios que eu gerei aqui esses F
shots Esses são os Fi shots são esses
exemplos que eu tô dando para ele e
agora a gente vai fazer pros nossos
dados mesmo né pros dados reais que a
gente quer a resposta Então pergunta a
gente copia a pergunta porque a pergunta
é a mesma né É o mesmo valor a gente
pode até colocar um separador aqui para
ele entender que é uma nova pergunta
Então pergunta Tem uma lista de valores
meu resultado é a mesma pergunta só que
agora em vez de dar esses dados
fictícios aqui a gente usa os nossos
dados reais aqui da tabelinha né então
vamos
tem vários né você pode ver 31 15 e tal
eu já fiz aqui até um valores para
conferência no total a gente tem que ter
cinco indivíduos desses né com
rendimento acima de 40 Então são 10 são
cinco acima e cinco abaixo e o imposto a
ser arrecadado o valor total tem que ser
13.500 vamos ver se o chat GPT vai dar
esse mesmo
valor e aqui a gente vai ter a nossa
resposta
osta que em vez de você escrever a
resposta como você escreveu aqui você
vai deixar em branco para ele completar
então a gente deu um exemplo de resposta
é o modelo que a gente quer e aqui a
gente deu para ele completar E aí vamos
ver se ele vai dar a resposta esperada
Olha eu começo a produzir a nossa
resposta ó Nessa lista existem 10
valores existem cinco valores acima de
40.000 que são blá blá blá blá BL blá os
valores tais a soma valores é 435.000 o
resultado final é 30% da soma desses
valores portanto 30% de 435.000 que
resulta em
13.500 exatamente o valor que a gente
esperava receber aqui então você olha
ele pode parecer mais trabalhoso mas
quando você precisa de dados mais
precisos é uma técnica muito legal muito
útil que vai te ajudar a treinar o chat
GPT usando esses conceitos de prompt
Engineering que é a engenharia de prompt
que é também uma carreira que muitas
pessoas têm falado recentemente a Forbes
publicou na revista deles como uma das
carreiras do Futuro que vai ser
pesquisar esses vários artigos
científicos que vão sendo lançados
praticamente toda semana ultimamente né
esse por exemplo do fel shots foi
lançado aqui pelo Jason Way e pelo
próprio Google né eles explicaram aqui
como fazer a própria Google que lançou
esse artigo científico e essa pessoa vai
ser responsável por pesquisar esses
artigos novos por criar também novas
técnicas e aplicar na sua empresa para
você obter respostas melhores quando
você tiver usando o chat GPT e outros
large language models na sua vida e por
hoje é isso Pessoal espero que você
tenha gostado desse Episódio e fica aqui
com a gente nas próximas semanas porque
a gente vai ter mais episódios dessa
nossa websérie chat GPT e as generativas
até mais tchau
tchau i
Посмотреть больше похожих видео
5.0 / 5 (0 votes)