Training Chatbots to become Professionals
Chatbot eğitimine başlıyoruz
Starting this week, I start a new section, AI STUFF. This is my first post in that section. The AI STUFF posts will alternate with my regular posts. The AI STUFF posts will be in English and Turkish. They are written in English and translated to Turkish. Both will be on the same page. I am starting on a learning journey and I am hoping you will join me in learning. It will be clearer when you read this post.
Bu haftadan itibaren yeni bir bölüme başlıyorum: AI STUFF. AI STUFF gönderileri normal gönderilerimle dönüşümlü olarak yayınlanacak ve ayni sayfada İngilizce ve Türkçe olacak. Bir öğrenme yolculuğuna başlıyorum ve sizin de öğrenmede bana katılacağınızı umuyorum. Bu sayfanın gerisini okuyunca ne demek istediğimi daha iyi anlayacağınızı umut ediyorum
I am starting this new project in which I will investigate ways of training chatbots like ChatGPT to become professionals like graduate engineers who can complete engineering tasks autonomously and accurately. You may want explore training chatbots to become experts in your area of interest. If this is so, please join me in this journey. We can compare our notes along the way and help each other. Later in this note I describe how this collaboration may take place.
ChatGPT gibi chatbotları eğitmenin yollarını araştıracağım bu yeni projeye başlıyorum. Bu işi beraber yapalım diyorum. Benim şu anki hedefim, bir makina mühendisliği ders kitabı kadar bilgili ve sorulara yetkin cevap verebilen, problemleri çözebilen bir chatbot. Siz başka bir konuyu hedefleyebilirsiniz. Bu konuya ilginiz vaarsa, lütfen bu yolculukta bana katılın. Yol boyunca notlarımızı karşılaştırabilir ve birbirimize yardımcı olabiliriz. Ayrıntıları aşağıda yazacağım.
In March 2023, I wrote in my blog that the SOA LLMs were like high-school graduates:
Knows how to read and write
Thinks they know everything
When you ask them a question you always get an answer because, if they do not know the answer, they would make it up
In March 2023, I said that LLMs were not yet competent enough to deliver professional functions such as engineering. A competent intelligence would be equivalent to a college graduate. GPT-4 or even a future GPT-5 would have to be further trained to get there. Today, there are two paths for a general LLM, i.e. an LLM straight out of high school, to get 'higher education':
Fine Tuning
Retrieval Augmented Generation (RAG)
Mart 2023'te blogumda şu anki LLMlerin (mesela ChatGPT) bir lise mezunu seviyesinde olduğunu yazmıştım:
Okumayı ve yazmayı biliyor
Her şeyi bildiklerini sanıyorlar
Onlara bir soru sorduğunuzda her zaman bir cevap alıyorsunuz, çünkü cevabı bilmiyorlarsa uydururlar.
Mart 2023'te Yüksek Lisans'ların henüz mühendislik gibi profesyonel işlevleri yerine getirecek kadar yetkin olmadıklarını söyledim. GPT-4'ün, hatta gelecekteki GPT-5'in oraya ulaşmak için daha ileri düzeyde eğitilmesi gerekecek. Bunun iki yolu var bugün:
Fine Tuning
Retrieval Augmented Generation (RAG)
I am a retired university teacher. One might argue that it was natural for me to become interested in providing 'university' training to the LLMs. I mentioned this interest in March 2023 but was not sure yet how to go about it. I have been watching the progress in the field since then. A number of tools have been proposed but were lacking in one way or another. I did not want to invest my time in a tool that would not be around long. The situation has now changed. I am happy to say that the OpenAI offerings early November provides a path for people like me to develop tools to train LLMs to competence levels of a college graduate. They are not perfect but good enough to provide a starting point.
Emekli üniversite öğretmeniyim. LLM'lere ‘üniversite' eğitimi vermekle ilgilenmemin benim için doğal olduğu iddia edilebilir. Bu konudan ilk Mart 2023'te bahsetmiştim ama o zaman bunu nasıl yapacağımdan henüz emin değildim. O günden bu yana gelişmeleri takip ediyorum. Bir dizi araç önerildi ancak şu ya da bu şekilde eksikleri vardı. Kısa ömürlü bir araca zamanımı harcamak istemedim. Artık durum değişti. Kasım ayının başındaki OpenAI sunumları benim gibi acemilere bile iyi bir şey yapma seçeneği veriyor. Mükemmel değiller ama bir başlangıç noktası sağlayacak kadar iyiler.
Please Join Me
If you have an area of expertise which you would like to share with the world using this new technology, please join me. I will be regularly (hopefully fortnightly) posting my progress on Substack. I will also be posting my code on Github. I will be using Python and the OpenAI API. In addition, I created an X (formerly known as Twitter) Community Group 'Building AI Tutors'. If you are interested, please join the group. I will be posting my progress there as well.
You do not need to be an experienced Python programmer but some knowledge of Python will be helpful. Below I list the steps you need to take to join me and explain how to go about it:
Install VS Code from https://code.visualstudio.com/download. This is a free code editor and development environment. It is the tool I am using therefore should be able to help you if you have problems.
Install Python from https://www.python.org/downloads/. At the time I started this notebook,
Download my
probotfiles from my account on github. I do not think you need to have a github account to do this. The name of the project is probot. You can download the wholeprobotfolder as a zip pack and unzip to your local disk.
Bu yeni teknolojiyi kullanarak dünyayla paylaşmak istediğiniz bir uzmanlık alanınız varsa lütfen bu öğrenme yolculuğunda bana katılın. Ben yaptıklarımı düzenli olarak (umarım iki haftada bir) Substack'ta özetleyeceğim. Detaylı anlatım ve programlarımı Github'da yayınlayacağım. Python ve OpenAI API'sini kullanacağım. Ek olarak, bir X (eski adıyla Twitter) Topluluk Grubu 'Yapı Yapay Zeka Eğitmenleri' oluşturdum. Eğer ilgileniyorsanız lütfen gruba katılın. Gelişmelerimi orada da paylaşacağım.
Deneyimli bir Python programcısı olmanıza gerek yok ancak biraz Python bilgisi faydalı olacaktır. Aşağıda bana katılmak için atmanız gereken adımları listeliyorum ve bunu nasıl yapacağınızı açıklıyorum:
VS Code'u https://code.visualstudio.com/download adresinden yükleyin. Bu ücretsiz bir program ve benim kullandığım araçtır, dolayısıyla sorun yaşamanız durumunda size yardımcı olabilirim.
Python'u https://www.python.org/downloads/ adresinden yükleyin.
Tüm program ve detaylı anlatımları github'daki hesabımdan indirin. Bunu yapmak için bir github hesabınızın olması gerektiğini sanmıyorum. Projenin adı probot. Probot klasörünün tamamını zip paketi olarak indirebilir ve zip dosyasını yerel diskinize açabilirsiniz
Please download this zip pack and read 'introduction.html’ on your computer before you make your decision whether this is something you would like to pursue. If you do not want it, you will still continue the AI STUFF posts every two weeks if you are a subscriber to my blog because I cannot target different subscriber sections for different sections.
Lütfen bu zip paketini indirin ve bu yolculukta beni takip edip etmeme kararınızı vermeden önce bilgisayarınızda 'introduction.html'yi okuyun. Bloğuma abone iseniz iki haftada bir AI STUFF paylaşımlarına devam edeceksiniz çünkü farklı bölümler için farklı abone bölümlerini hedefleyemiyorum.
Yine güzel bir konu seçmişsin.
Seni merakla izlemeye çalışacağım ama fiilen yapmaya zaman ayırabileceğimi sanmıyorum.