Τα εργαλεία και η κλήση συναρτήσεων

Κοινό: 10–15 ετών
Διάρκεια: 20 έως 30 λεπτά
Ενότητα: 1/5
Σήμα-στόχος: Αφέντης της εργαλειοθήκης

Η αποστολή της ημέρας

Στο τέλος αυτού του μαθήματος θα ξέρεις να εξηγείς γιατί ένα μοντέλο ΤΝ χρειάζεται εργαλεία για να αγγίξει τον πραγματικό κόσμο, και να περιγράφεις πώς «ζητάει» να χρησιμοποιήσει ένα εργαλείο μέσω της κλήσης συναρτήσεων.

Η ιδέα σε μία εικόνα

Ξέρεις πολλά πράγματα απ' έξω, αλλά για κάποιες εργασίες χρειάζεσαι ένα εργαλείο: μια αριθμομηχανή για μεγάλο υπολογισμό, ένα τηλέφωνο για να καλέσεις κάποιον, έναν χάρτη για να προσανατολιστείς. Δεν γίνεσαι αριθμομηχανή: την παίρνεις, πληκτρολογείς τον υπολογισμό, διαβάζεις το αποτέλεσμα, και μετά συνεχίζεις αυτό που έκανες. Ένα μοντέλο ΤΝ κάνει ακριβώς το ίδιο με τα εργαλεία του: δεν ξέρει τα πάντα, αλλά ξέρει πότε και πώς να πάει να πάρει την πληροφορία ή να κάνει την ενέργεια.

Πώς λειτουργεί

Ένα μοντέλο ΤΝ, από μόνο του, μπορεί να παράγει μόνο κείμενο. Δεν μπορεί να δει τον καιρό σήμερα, ούτε να ανοίξει ένα αρχείο, ούτε να στείλει ένα μήνυμα. Τα εργαλεία (tools) είναι ο τρόπος του να φτάσει τον εξωτερικό κόσμο.

Η κλήση συναρτήσεων (function calling) είναι ο τρόπος με τον οποίο το μοντέλο ζητάει να χρησιμοποιηθεί ένα εργαλείο. Αντί να γράψει μια φράση, γράφει ένα είδος μικρής, καλοδιατυπωμένης εντολής, όπως get_weather('Athens'), που ένα πραγματικό πρόγραμμα θα εκτελέσει για λογαριασμό του.

Από αριστερά προς τα δεξιά: το μοντέλο εντοπίζει ότι του λείπει κάτι, διατυπώνει την κλήση, το εργαλείο κάνει την πραγματική δουλειά, το αποτέλεσμα επιστρέφει, και το μοντέλο το χρησιμοποιεί για να συνεχίσει.

Ιδού τα πιο συνηθισμένα εργαλεία:

Αναζήτηση (search) — ψάχνω κάτι στο διαδίκτυο.
Εκτέλεση κώδικα (code execution) — τρέχω έναν υπολογισμό ή ένα μικρό πρόγραμμα.
Πρόσβαση σε αρχεία (file access) — διαβάζω ή γράφω σε έγγραφο.
API (Application Programming Interface) — κοιτάω ένα ημερολόγιο, στέλνω e-mail, ρωτάω μια βάση δεδομένων.

Δύο παραδείγματα:

«Πόσο κάνει 847 × 392;» → το μοντέλο καλεί ένα εργαλείο αριθμομηχανής αντί να μαντέψει έναν αριθμό που «μοιάζει σωστός».
«Βρέχει τώρα στο Τόκιο;» → το μοντέλο καλεί ένα εργαλείο καιρού, γιατί δεν έχει κανέναν τρόπο να το ξέρει από μνήμης.

Δραστηριότητα χωρίς οθόνη

Φτιάξε μια «εργαλειοθήκη» από χαρτί και παίξε το μοντέλο που καλεί συναρτήσεις.

Σε τέσσερις κάρτες, γράψε από ένα εργαλείο: αριθμομηχανή(…), καιρός(πόλη), λεξικό(λέξη), ρολόι().
Ένας παίκτης είναι το μοντέλο, οι άλλοι είναι τα εργαλεία: ο καθένας κρατάει μια κάρτα και ξέρει την «πραγματική» απάντηση (μια αληθινή αριθμομηχανή, ένα λεξικό, ένα ρολόι, ή μια εφευρημένη απάντηση για τον καιρό).
Ένας ενήλικας κάνει ερωτήσεις στο μοντέλο: «Ποια μέρα θα είμαστε σε 45 μέρες;», «Τι σημαίνει ορχηστρώνω;», «Πόσους βαθμούς έχει στην Αθήνα;»
Το μοντέλο δεν έχει δικαίωμα να μαντέψει: πρέπει να τείνει την αντίστοιχη κάρτα λέγοντας την κλήση φωναχτά («καλώ λεξικό('ορχηστρώνω')»), να περιμένει την απάντηση, και μετά να απαντήσει στον ενήλικα.
Συζητήστε: σε ποιες ερωτήσεις θα μπορούσε το μοντέλο να απαντήσει χωρίς εργαλείο; Σε ποιες ήταν αδύνατο;

Τι πρέπει να θυμάσαι

Μόνο του, ένα μοντέλο ΤΝ παράγει μόνο κείμενο· τα εργαλεία του ανοίγουν τον πραγματικό κόσμο.
Η κλήση συναρτήσεων είναι ο ακριβής τρόπος με τον οποίο το μοντέλο ζητάει να εκτελεστεί ένα εργαλείο.
Με ένα εργαλείο, ο πράκτορας ελέγχει αντί να μαντεύει.

Ερώτηση για έναν ενήλικα

Ποια «εργαλεία» χρησιμοποιείς κάθε μέρα επειδή η μνήμη σου δεν φτάνει (ημερολόγιο, GPS, αριθμομηχανή…); Εμπιστεύεσαι περισσότερο τη μνήμη σου ή το εργαλείο;

Άρα; Τα εργαλεία μετατρέπουν ένα μοντέλο που μόνο μιλάει σε έναν πράκτορα που μπορεί πραγματικά να ελέγχει γεγονότα και να δρα στον πραγματικό κόσμο.