רשימות על עבודה עם AI
להבין תוכנה לפני שמשכפלים אותה
סוכנים יכולים כבר להסביר איך אפליקציה עובדת בלי קוד המקור שלה. התוצר החשוב הוא המנגנון והראיות שלו, לא השכפול. והנה הגבול.
השכפול הוא התוצר הכי פחות שימושי
נולד סוג חדש של כלים שמאפשר לסוכן קוד ללמוד תוכנה שאין לו את הקוד שלה. ריא, קיצור של הנדסה לאחור לכל דבר, הוא שרת פתוח מסוג אם סי פי, בתוספת הוראות עבודה, ברישיון אם איי טי. הוא עובד עם קלוד קוד, קודקס, קרסר וג'מיני סי אל איי. מכוונים אותו אל קובץ הרצה מקורי, אפליקציית אלקטרון, ספרייה של דוט נט או אתר, והסוכן בוחן את היעד ומדווח איך פיצ'ר עובד. הוא מדווח גם מה הראיות מאחורי כל מסקנה ומה גבולות הניתוח. הניתוח רץ אצלכם במחשב.
השימוש המובן מאליו הוא לבקש עותק. לדעתי זה מה שהכלי נותן הכי פחות. התוצר היקר הוא המנגנון המוסבר: הפיצ'ר הזה עושה כך, בסדר הזה, בגלל הראיה הזאת, וזה מה שלא הצלחתי לקבוע.
למה הראיות חשובות יותר מהתשובה
מסקנה שנגזרת מקובץ הרצה או מסקריפט ארוז היא השערה. ניתוח סטטי מראה מבנה. הוא לא מראה כוונה, והוא לא יכול להראות מה קורה בשרת שלא נגעתם בו. סוכן יסביר פונקציה בביטחון גם כשהבין רק חצי ממנה, וזה אותו כשל של כל מודל שוטף.
לכן החלק של ראיות וגבולות הוא המוצר עצמו. טענה עם הפניה למקור אפשר לבדוק בדקה. טענה בלי הפניה צריך להאמין לה, ואמון הוא ברירת מחדל שגויה כשמדובר במסקנה מהנדסה לאחור.
כשקוראים את הדוח, ממיינים לשלוש ערימות: מה נצפה ישירות, מה הוסק ממה שנצפה, ומה לא ידוע. רק הערימה הראשונה היא עובדה. על השנייה בונים רק אחרי שבדקתם אותה.
קודם מבינים, אחר כך בונים משלכם
הדפוס שאני מלמד הוא בשלושה שלבים.
מוציאים את המנגנון: מה הפיצ'ר עושה, איזה מידע עובר לאן, ואילו מקרי קצה הוא מטפל בהם. כותבים אפיון במילים שלכם, לגרסה הפשוטה שאתם באמת צריכים. ומממשים לפי האפיון ולא לפי המקור.
הסדר הזה עושה שני דברים. הוא נותן לכם גרסה שמתאימה לפרויקט שלכם ולא לפשרות של מישהו אחר. והוא שומר על ניקיון: מה שעובר הלאה הוא הבנה, לא הקוד, הטקסט או העיצוב שלהם.
להעתיק זו הדרך הלא נכונה, טכנית וגם משפטית. מימוש שהועתק גורר הנחות שהיו הגיוניות במוצר אחר, ואתם יורשים באגים שאין לכם דרך להסביר.
איפה עובר הגבול
רישיונות ותנאי שימוש קובעים מה מותר לנתח, ורבים מהם אוסרים הנדסה לאחור במפורש. מנתחים תוכנה שיש לכם זכות לנתח, או עובדים לצורכי תאימות ולמידה במקום שהחוק והתנאים מאפשרים. ללמוד איך עובדת מערכת ישנה שלכם, או איך פורמט קובץ מתנהג כדי שהכלי שלכם יקרא אותו, זו פעולה אחרת מלהרים מוצר של מתחרה. אם אתם לא בטוחים, שאלו מישהו שקורא חוזים לפרנסתו לפני שמתחילים.
מתקינים רק מהמקור
לכלי כזה יש גישה עמוקה למחשב, ולכן עותק מזויף שווה הרבה לתוקף. ההוראות של הפרויקט עצמו מזהירות שמסתובבים עותקים. מורידים רק מהמאגר הרשמי, מהאתר של ריא או מחבילת האן פי אם של ריא. ההתקנה דורשת נוד ופקודה אחת:
npx rea-agents setup
מה לעשות מחר
בוחרים פיצ'ר אחד באפליקציה שאתם נשענים עליה ושיש לכם זכות ללמוד. מבקשים מהסוכן שלושה דברים: איך הוא עובד, מה תומך בכל טענה, ומה נשאר לא ידוע. אחר כך מבקשים אפיון של עמוד אחד לגרסה הפשוטה ביותר שהייתם בונים בעצמכם.
קראו קודם את הלא ידוע. הוא מראה עד כמה לסמוך על השאר.