כוויות קוד
מה למדתי על אבטחה, ומה גודל ההבטחה (אני חייב להפסיק עם זה)
קודם כל, מוזיקה:
אתם תסלחו לי, אני אחפור עוד קצת על ההתנסויות שלי עם קלוד קוד. משתי סיבות, גם משום שאני חושב שאנחנו ממש חיים חלק חשוב בהיסטוריה ובא לי לתעד את הפינה הקטנה שלי בדבר הזה. ושנית, משום שהשבוע הרגשתי על בשרי את הצד השני של הוייב קודינג. ואם הייתי שגריר כל כך נלהב של ׳אתם חייבים להתנסות בזה׳, אז נדמה לי שאך הוגן הוא לספר מה קורה כשמתנסים בזה בלי שמבינים מה עושים.
so here goes:
הבעיה מתחילה בפער. הפער שבין תחושת הפוטנטיות, תחושת הכל-יכול, שהעבודה עם קלוד קוד (ודומיו, חבר׳ה. אני לא פרסומת לקלוד קוד, זה פשוט מה שאני עובד איתו) נותנת לך, לבין המציאות. ובמציאות, אין לי צל של מושג מה אני עושה, מה קלוד עושה, ובעיקר האם זה טוב או לא. כלומר, אני כן יודע לעקוב אחרי הפיצ׳רים שהוא בונה, לבדוק אם הם עובדים כהלכה וכו׳. זה קל. מה שאני באמת לא יודע, הוא מה שאני לא יודע שאני לא יודע. וזו בעיה. כי אני באמת לא יודע את זה.
כדי שזה לא יישאר ערטילאי מדי, הנה דוגמא קונקרטית: בשבוע שעבר סיפרתי איך כל מיני אנשים טובים מהאינטרנט, שאת רובם אני לא מכיר, סייעו לי מאחורי הקלעים כדי לסגור פרצות אבטחה שהיו לי במפת הקפה של ירושלים שפרסמתי (עובד על פיצ׳רים חדשים!). אבל אחרי שפרסמתי את מנוע החיפוש של חיות כיס שבניתי, דברים השתנו.
בשישי בבוקר, כשעברתי על המיילים שלי, מצאתי מייל מהחברה שאני מאחסן בה את האתר, vercel, שהודיע לי שהחבילה החינמית שקניתי אצלו התמלאה, ושאני צריך לשדרג, כי ניצלתי את כל כוח המחשוב שהחברה העמידה לרשותי. לא הבנתי איך בכלל זה יכול להיות. כדי שזה יקרה, יצטרכו להיות עשרות אלפי חיפושים במנוע חיות כיס הזה. ועם כל הכבוד לכוח הויראלי שלי, אני לא ביונסה (הצעירים עוד אומרים ביונסה? מה הצעירים אומרים? הושיעו!).
התחלתי לחשוב שאולי קלוד בנה את הקוד לא משהו, ושהוא כל הזמן פועל ברקע במקום להיות שקט עד שמפעילים אותו. אנא עארף, לכו תדעו. ביקשתי מקלוד שיתחיל לבדוק את הקוד ויעשה אופטימיזציה, והלכתי לשוק.
כשחזרתי, ראיתי את תוכנית האופטימיזציה שהוא הציע, והפעלתי אותה. לצערי, אפילו הוא הודה שהיא לא תשפר בהרבה את המצב. התחלתי לדאוג. ואז, בשישי בערב, אחד העוקבים שלי באינסטגרם שלח לי פוסט מלינקדין של בחור שאני לא מכיר, שסיפר איך הוא עקץ אותי. הוא שלח 100 אלף חיפושים למנוע החיפוש. האתר אמנם לא קרס ולו לשניה אחת, כי הטכנולוגיה של vercel היא כנראה סופר סבבה (כאמור, אני לא מבין בזה דבר). אבל אם לא היינו עוצרים את זה זה היה מוציא ממני לא מעט כסף מהארנק (הוא הבין היטב מראש שזה מה שיקרה, כי הוא טרח לג׳נרט תמונה שלי תולש שערות בעוד הדולרים שלי נשרפים).
חשבתי להראות לכם את החיפושים שהבחור הריץ, אבל אחרי התערבות מהירה ומהממת של קהילת הטק הישראלי - תודה ליוסי הנפלא ולכל האנשים הטובים האחרים שהתגייסו במהירות - העניין סודר. הבחור התנצל באופן אישי ופומבי, ומאחר שמודה ועוזב ירוחם, הנה פוסט התיקון שהוא פרסם בשבת, רק כדי ליישר קו:ובכן, גם אני למדתי מזה המון. למדתי שיש כל מיני טיפוסים באינטרנט, וגם: שאין לי שמץ של מושג מה אני עושה בתחום האבטחה. וגם: שזה תחום גדול מדי, וחשוב מדי, כדי שהוא יישאר פרוץ ככה (סטיגידיש). אז מה עושים?
דבר ראשון, כל צורת החשיבה שלי השתנתה. עכשיו, בכל פיצ׳ר חדש שאני חושב עליו, אני מזכיר לעצמי לחשוב - רגע, מה יכול להשתבש? מאחר שאני לא יודע, אני אומר לקלוד: תחשוב מה יכול להשתבש. איזה פרצות אבטחה יכולות להיות? איזה שימוש זדוני משתמשים זדוניים במיוחד יכולים לעשות? איך אנחנו מגינים על מידע שמשתמשים מכניסים לאתר, ולא פחות חשוב - על כרטיס האשראי שלי.
למשל: אלכס פולונסקי החמוד לקח את המפה ובנה על בסיסה אפליקציה שיודעת למשוך את המידע מהאתר, ואז מאפשרת לכם לשלוח הודעה לבוט וואטסאפ ולשאול - הי אחי, יכול להמליץ לי על בית קפה טוב בסביבתי בירושלים? או כל שאלה אחרת, ולקבל מידע ישר מהמפה.
תכננתי בעצמי לבנות משהו כזה, אבל אלכס הקדים אותי, וכל הקהילתיות הזו מדליקה אותי מאוד, ובא לי להגיד לו להפעיל את זה, אבל עכשיו אני מאוד מאוד חושש.
אז ביקשתי מקלוד לחשוב על זה מראש, ובעיקר - ביקשתי מיוסי תאגורי האחד והיחיד שיגיד לי אם זה רעיון טוב. והוא המליץ על דרך שקלוד לא חשב עליה כדי למזער סיכון, וזה מה שננסה לעשות.
בקיצור, הבנתי, ואני הרבה יותר הולך על בהונות עכשיו. אני ממליץ גם לכם.
ממש במקרה, פחות או יותר במקביל לאירוע הזה, אנת׳רופיק הוציאו הודעה שהם מוסיפים פיצ׳ר אבטחה חדש לקלוד (בקרוב. יש רשימת המתנה או משהו כזה. נרשמתי). זה מתבקש והגיוני, כי אני משוכנע שהחברה עצמה רואה איך בכל העולם כל מיני אנשים חסרי ניסיון בונים כל מיני דברים וחושפים את כל העולם ואחותו למיליון פרצות אבטחה, ו-וואלה מישהו צריך לקחת אחריות על האירוע.
בתגובה, המניות של המון חברות סייבר, כולל ישראליות, התרסקו. למה? כי בשנים האחרונות שוק ההון עבר להיות על סטרואידים. הוא פועל באופן הרבה יותר אוטומטי (אני מתכוון לזה מילולית - על ידי רובוטים), וכל אירוע הופך להיות הרבה יותר קפריזי. לכן, באותה מידה המניות האלה אולי ימריאו בעוד שבוע, כשאנשים יתחילו לשאול את עצמם - רגע, הפיצ׳ר האחד הזה, הוא באמת ייתר את כל חברות הסייבר הגדולות?
מה שמביא אותנו לשאלה גדולה אחרת - לאן אנחנו הולכים? ההתפתחויות במודלי הבינה המלאכותית עברו לקצב מואץ מאוד. למעשה, זה קצב כל כך כל כך מואץ שאני תוהה אם זה בסך הכל ניסיון של החברות לגרום לזרמי הכסף שזורמים לתעשייה הזו להמשיך לזרום, או שזה לגמרי אמיתי ובעצם עברנו לחיות בתדר אחר של יחידות זמן, תדר שאנחנו לא מסוגלים לתפוס, באותה מידה שאנחנו לא יכולים לראות חלק מהספקטרום של האור.
כך או כך, ההתפתחויות הן כל כך מואצות, שאם עוצמים את העיניים ומדמיינים, אפשר לצפות עתיד - לא רחוק, קרוב - שבו חברות תוכנה הופכות להיות חברות אוטונומיות לחלוטין. כמו שמפעלים מאוד מתקדמים מרכיבים היום מכוניות או מייצרים היום גבינה צהובה או מנהלים היום מחסן על ידי 95% רובוטים ו-5% אנשים בשר ודם? אז אותו הדבר בדיוק רק עם חברות תוכנה. כן, מהכי קטנטנות, ועד לגדולות ביותר שאתם יכולים לחשוב עליהן.
אם התשובה לשאלה הזו היא - ברור שכן - אז השוק צודק, וכל החברות האלה הולכות לאט לאט, או מהר מהר, לכו תדעו! לדמם עובדים. זה, אגב, לא בהכרח ירסק את השווי שלהן. כלומר, נניח שהתרחיש הזה נכון - אני לא יודע - אז חברות שיסתגלו אליו מהר, כלומר יתחילו לפטר עובדים, ויתחילו להניע את עצמן באופן מכוון לעתיד האוטונומי, השווי שלהן יכול לגדול. לא סתם לגדול, לגדול בטירוף. כלומר, אם הטכנולוגיה באמת תממש את ההבטחה שלה.
אני באמת לא יודע אם אנחנו הולכים לעתיד הזה או לא. אני חושב שיש סיכוי לא רע שאנחנו נראה חברות תוכנה אוטונומיות כמעט לחלוטין בתוך 5 שנים. מצד שני, בעבר גם שוכנעתי שכל המכוניות יהיו אוטונומיות לחלוטין בתוך 5 שנים, ומה אני אגיד לכם, חלפו כבר כמעט עשר שנים, והטויוטה שלי לא אוטונומית בשיט.
לכן, בתור אנטי-תזה, אין לי אלא להפנות אתכם לשרשור הנפלא הזה של רן בר-זיק, הנפלא בפני עצמו, ששם את ההייפ בפרופורציה יפה:
במה אני דווקא כן בטוח?
שאנחנו במומנטום שלא יעצור. גם אם שוק ההון ייכנס למשבר, גם אם העולם הריאלי כולו ייכנס למשבר (חסרות סיבות? איראן-רוסיה-ארה״ב-סין-טאיוואן-אקלים-מגיפות, רק תבחרו), המומנטום הזה יימשך.
ייצאו עוד ועוד שירותים שמאפשרים לבינה מלאכותית לכתוב קוד בעצמה, יותר ויותר טוב. ככל שנתקדם בזמן השירותים האלה יותאמו יותר ויותר לקהל הרחב, הלא טכני, כלומר לאנשים כמוני. אנשים שלא יודעים מה זה גיטהאב או ורסל או פיירבייס או קלאודפלייר או כל דבר אחר כזה. יהיה להם ממשק אחד לעבוד בו, וזהו זה. למעשה, יש כבר כמה וכמה וכמה חברות שמציעות את זה, חלקן ישראליות. באחת מהן אפשר כבר לבנות אפליקציות על בסיס פרומפט קצר ולשגר ישר לאפסטור.
לוגו לאפליקציית הקפה שג׳ינרטתי היום באחת האפליקציות האלה. חדי העין ישימו לב שמדובר בקערת מרק ולא בספל קפה
וזה, זה עולם אמיץ חדש חבר׳ה. עולם שמצד אחד יש בו אינפלציה משוגעת של מוצרים בינוניים בטירוף. אבל גם עולם שבו המוכשרים שבמוכשרים יוכלו להגשים את החלומות הכי פרועים שלהם, ולקדם את כולנו במה שהם יבנו. קצת כמו בתעשיית הפודקאסטים. אוקי בסדר, שום פודקאסט לא באמת מקדם את העולם אבל הבנתם את הכוונה - חסמי כניסה נמוכים > 99% זבל > 1% עילוי.
אני לא חושב שאני ב-1% האלה. אבל אני כן יודע שאני מאוד רוצה לעלות על הרכבת הזו. כרגע, לא לפרנסתי. די בטוח שלעולם לא תהיה לי פרנסה מזה. אבל אני רוצה להיות שם. לא רוצה להישאר מאחור. ואני, אני כבר קשיש. אנשים צעירים ממני, מוכשרים ממני, ודאי עם רקע טכני יותר חזק משלי, הם בוודאי לא כדאי שיישארו מאחור. כי ככל שיעלו על הרכבת הזו יותר בזמן, העתיד שיוכלו להבטיח לעצמם - תעסוקתית, כלכלית ואישית - יהיה טוב יותר.
בזה אני לגמרי לגמרי בטוח, בין אם המכונות יחליפו אותנו לחלוטין, או חלקית, או כלל לא.
עוד שני דברים אחרונים לפני סיום:
השבועות האחרונים גרמו לי להעריך מחדש אפליקציות טובות שאני משתמש בהן. הן עובדות 99% מהזמן, בלי באגים, בלי ממשקים משונים, בלי עיצוב גנרי. אפליקציית הריצה שלי, אפליקציית המוזיקה שלי, הי אפילו אינסטגרם. השבועות האחרונים גרמו לי להעריך הרבה יותר את העבודה הקשה, המאומצת, לעיתים הסיזיפית והמשעממת, שהשקיעו כל העובדות והעובדים הרבים שבנו אותן, וממשיכים לתחזק ולבנות. רציתי להגיד להם תודה.
תודה!
אני לא חושב שהן תיעלמנה רק בגלל שאני מסוגל לבנות לעצמי עכשיו כל מיני דשבורדים מכוערים. לא נראה לי. אני ממש שמח לשלם על אפליקציות טובות שעובדות היטב ונותנות לי שירות טוב שמקדם אותי בחיים.
ואחרון חביב -
אם אנחנו באמת הולכים לעולם שבו תוכנה הולכת להיכתב ברובה על ידי תוכנה, להיות מתוחזקת ברובה על ידי תוכנה, ומאובטחת ברובה על ידי תוכנה, עם קצת אנשים שמשגיחים מסביב ותו לא, זה יכול להיות גם דבר ממש ממש טוב.
בין היתר, כי זה ישחרר המון כוח אדם איכותי לעשות דברים לא פחות חשובים. יש שיגידו, הרבה יותר חשובים. למשל, לעולם התרבות והרוח. למשל, לעולם החקלאות. ולמשל - לעולמות הדיפ-טק, היכן שנדרשים מוחות מעולים כדי לפתור את הבעיות הקשות ביותר של הקיום שלנו פה. אקלים, ביטחון, עוני, חינוך, בריאות, גידול מזון, יו ניים איט. סבבה, אז את הסייבר סייבר תעשה הבינה המלאכותית (פאק זה נשמע כל כך דיסטופי), בסדר. אם זה ישחרר עוד בן אנוש אחד כדי להבין איך מאפשרים למיליארדי אנשים גישה למים נקיים, so be it. מנגנון השכר יתאים את עצמו בסופו של דבר גם במקצועות האלה. כישרון וחריצות הם דברים שנדירים תמיד, ונדרשים תמיד, ותמיד ישלמו עליהם.




בשנת 2022, ג׳ף אטווד - היוצר של Stack Exchange, אתר השאלות והתשובות הכי גדול בעולם הפיתוח (שאנתרופיק, בין השאר, אימנה עליו את המודלים שלה באגרסיביות) - עשה התערבות.
הצד השני היה ג׳ון קארמאק. קארמאק הוא אחד מגדולי המתכנתים שעולמנו ידע - אדם חכם ומורכב עם סיפור חיים מטורף שנתן לנו המון, אבל לרוב העולם הוא מוכר בעיקר בתור האיש מאחורי Doom.
שני האנשים האלה - שניהם מאוד מאוד חכמים - התערבו על שאלה אחת: האם עד 2030 יהיו לנו מכוניות אוטונומיות באמת, לפי הגדרה מוסכמת בתעשייה. ג׳ון אמר שכן. ג׳ף אמר שאין סיכוי.
(הפואנטה מגיעה בקרוב)
הכתבה עצמה שווה קריאה - לינק בתחתית. אבל מה שמעניין במיוחד הוא התזמון: היא יצאה כשמונה חודשים לפני ש-ChatGPT יצא וטרף את הקלפים.
אני עוקב אחרי ג׳ף שנים, אז ההתערבות סיקרנה אותי בזמנו. נכנסתי לעומק, קראתי, ובסוף השתכנעתי שג׳ף כנראה צודק - ושג׳ון, הטכנולוג האגדי, אופטימי מדי.
אבל היום? אני חושב שהיתרון הענק שמתואר בכתבה - היכולת להתקדם הרבה יותר מהר בהרבה יותר תחומים - עדיין רק לפנינו. ואני מוצא את עצמי מרוגש, לחוץ, מבולבל, וסקרן לדעת לאן כל זה הולך.
תרגיל טוב לתקופה הזו: לקחת החלטות שקיבלנו בעבר ולשקול אותן מחדש לאור הנתונים החדשים. ובהינתן מה שקורה עכשיו - אני חושב שיש סיכוי טוב שג׳ף הולך להפסיד.
לינק לכתבה: https://blog.codinghorror.com/the-2030-self-driving-car-bet/
תודה על הכתיבה המעולה.