מדברים פתוח

הבאזוורדס של עולם הפיתוח לא מפסיקים להתחלף, והפעם ג'וש ואילן עושים סדר במעבר מסוכני AI כלליים לעבודה ממוקדת עם Skills ו-Claude Code.

דיברנו על הפער בין ההבטחה לאוטונומיה לבין המציאות, למה ה-Harness חשוב לא פחות מהמודל עצמו, מה קורה כשנותנים ל-MCP לפתוח כרטיסיות ב-Jira או לעשות Code Review, ואיזה סכנות אבטחה מסתתרות כשנותנים ל-AI לרוץ ב-YOLO Mode. הא...

בפרק זה אירחנו את איתי יונה, חוקר  לשעבר ב-Google DeepMind ומומחה לאבטחת מידע ולמידת מכונה. בשיחה שכל כולה צוללת אל תוך עולם ה-Adversarial Machine Learning ובודקת עד כמה קל "לשבור" את מודלי השפה המתוחכמים ביותר שאנו מכירים כיום.

• מה זה בכלל Jailbreak? איתי מסביר כי בניגוד לאבטחת תוכנה קלאסית, כאן התקיפה מתמקדת במודל עצמו ובניסיון לגרום לו להתנהג בניגוד למטרה המקורית שלו ד...

כולם מדברים על AI Agents, וכולם רצים ליישם את MCP (Model Context Protocol) – הפרוטוקול שהפך לסטנדרט החדש בחיבור מודלים לעולם האמיתי. על הנייר? זה גאוני. אנחנו נותנים ל"מוח" (ה-LLM) "ידיים" (Tools) כדי לבצע פעולות עצמאיות. בפועל? יצרנו וקטור תקיפה חדש לחלוטין שאנחנו עדיין לא יודעים איך לאכול.

בפרק הזה (שהוקלט מהממ"ד, כי אין כמו אקטואליה לחידוד חושים), אירחנו את לירן טל מחברת Snyk, מומחה אבטחה ומוביל ד...

בפרק סיום השנה של "מדברים פתוח" אירחנו את ניצן דוד פוקס ("המשחק הגדול") כדי להבין לעומק את השפעת בינה המלאכותית הגיאופוליטיקה העולמית ולמה אנחנו לא בתחרות מסחרית, אלא במלחמה על הסדר העולמי החדש.

בין היתר דיברנו על:

• ארבעת שדות הקרב: המעצמות נלחמות על כוח חישוב, דאטה, כישרון ורגולציה. סקרנו את מעמדן של השחקניות השונות  

• המועדון הסגור של "Pac Silica":  אם במקרה לא שמעתם...

בפרק הזה אנחנו מארחים את פרופ׳ מאיר פדר מאוניברסיטת תל אביב, מדען תורת האינפורמציה עם רקע תעשייתי וזוכה פרס אוסקר טכנולוגי. דיברנו על למה מודלים עצומים מצליחים להכליל למרות חוקי הסטטיסטיקה הקלאסיים, איך אוקאם ותורת האינפורמציה יכולים להסביר את “הקסם” של ה-AI, ולמה קיר החשמל והעלות מכריחים אותנו לחשוב על ארכיטקטורות חדשות מעבר לרשתות נוירונים. לינקים  Information-Theoretic Framework fo...

בעולם שבו פחות ופחות אנשים "גולשים" באינטרנט ויותר פשוט מדברים עם מודלים, האינטרנט עצמו משתנה מתחת לרגליים שלנו. בפרק הזה אילן וג'וש מארחים את אייל בן ברוך, מוביל תחום הדאטה וה AI בטבילי,Taviliy סטארטאפ ישראלי ששם לעצמו מטרה לבנות את שכבת החיבור בין האייג'נטים לאינטרנט.

נכנסים לעומק של איך נראית חוויית חיפוש כשקהל היעד כבר לא בן אדם מול כרום, אלא אייג'נט שמבצע עשרות מיליוני קריאות ביום. מדברים על ההבדל בין...

בפרק הזה ארחנו את נירית כהן, מומחית לעתיד העבודה, ודיברנו על אחת השאלות הבוערות של העידן שלנו: מה זה בכלל "קריירה" כשידע מתיישן כל 5–7 שנים, תפקידים משתנים בקצב מפחיד, והגבול בין חיים לעבודה כמעט נעלם.

דיברנו על:

• למה המודל הישן של "למד מקצוע, תישאר בחברה, תצא לפנסיה" כבר לא עובד.

• למה הביטחון התעסוקתי האמיתי היום הוא לא תפקיד – אלא היכולת להישאר רלוונטיים.

פותחים את עונה 4 עם סיפור קוד-פתוח משולב בינה מלאכותית בפרק זה אירחנו את יניר מרמור ממכון וויצמן, ממקימי פרויקט “עברית AI” — יוזמה קהילתית לשיפור תמלול דיבור בעברית. דיברנו על איסוף הדאטה הקהילתי, היבטי זכויות יוצרים ואיך הם התמודדו עם הבעיה, בניית דאטה-סטים וגם על האפליקציות הפתוחות (ווב ובוט וואטסאפ) שכבר מתמללות עשרות אלפי שעות בחודש — לצד אתגרי פרטיות ותוכניות להמשך (סטרימינג, דומיינים רפוא...

בפרק הסיום שלנו אנו שוברים את המיתוס שמודלים חייבים להיות מפלצות GPU. פרופ’ ניר שביט, מייסד-שותף של Neural Magic וכיום ברד האט, חושף כיצד Sparsity ו-Quantization מצמצמים את משקל המודל, חוסכים בזיכרון ובכסף – ומשאירים את הביצועים בשיא. ניר מסביר למה vLLM הוא ה”לינוקס” של עולם ה-LLM: שכבת אינפרנס פתוחה שמסתירה את כאב-הראש של חומרה משתנה ומנהלת זיכרון, תזמון ומשאבים על פני כמה GPUs, תוך תחרות צמודה...

בפרק סיום לעונה זו אנחנו צוללים לעולם שבו הביולוגיה והבינה המלאכותית נפגשות. אירחנו את פרופ' ניר שביט, ממייסדי Neural Magic וחוקר בעל שם בתחום מדעי המחשב, לשיחה על הקשר העמוק בין המבנה של המוח האנושי לבין הדרך שבה אנו מפתחים מערכות בינה מלאכותית. שוחחנו על מושגי יסוד בעולם הבינה המלאכותית 

שוחחנו על המושג Sparsity—איך המוח יודע לעבוד בצורה חסכונית ויעילה, ואיך הרעיון הזה הופך למפתח בהאצת מודלים ...

בפרק שוחחנו עם אסף מ-IBM Research, ממובילי מודל Granite. הסברנו מהו מודל פתוח: ארכיטקטורה, קוד אימון, משקולות ונתונים, ולמה ברוב המקרים רק שני החלקים הראשונים זמינים. דיברנו על רישיונות שונים, מ-MIT החופשי ועד Llama-License המחייב לשמור את השם. הסברנו שהכסף עבר מאימון יחיד ויקר לאינפרנס מתמשך, ולכן ענקיות בונות חוות GPU ומציעות תשתיות כמו Watsonx, VLLM ו-MCP. ראינו כיצד קהילה יכולה לתרום קוד ...

בפרק הזה אילן “שם על האש” את ג’וש לשיחה מעמיקה על MCP – Model Components Protocol, ה־באזז החם שמחבר מודלי LLM לעולם האמיתי. השניים עוברים מהיסטוריית החודשיים הסוערת של הפרוטוקול ועד הדילמות שמטרידות כל צוות Dev ואנשי SecOps:

• מה זה MCP ולמה הוא מהפכני?

• איך קהילת המפתחים הגיבה לכלי החדש?  

• מה הם אתגרי העומדים בפני אנטרפרייז שרוצים לאמץ את הטכנולוגיה  

• מדוע יש יותר&n...

בפרק הזה של „מדברים פתוח” אירחנו את ד״ר רועי צזנה – עתידן, חוקר מגמות ומחבר „המדריך לעתיד” – לשיחה סוערת על העתיד שמתרחש ממש עכשיו.

• למה קצב הפיתוח בבינה מלאכותית מרגיש כמו „לוח שח‑מט אקספוננציאלי” ולמה חצי שנה כבר נחשב „טווח ארוך”.

• נקודת הסינגולריות: האם נעבור אותה עד 2030, ומה יקרה ביום שבו מודל מאמן מודל חזק ממנו.

• מתי אלגוריתם יתחיל „לרמות” בלי לכתוב על כך...

בפרק הזה של “מדברים פתוח” אנחנו מארחים שוב את שון פז, ראש קבוצת Solution Architects ב‑Red Hat, לשיחה כנה על הדרך שבה ארגוני אנטרפרייז מטמיעים יכולות AI. דיברנו על הפער בין ההייפ למציאות, על יוזקייסים פנימיים שמגבירים פרודוקטיביות, המחסור ב‑GPU, סיכוני אבטחה והדילמה הנצחית Build‑לעומת‑Buy. איך מודדים הצלחה, מהו AI Center of Excellence, ו...

פרק חגיגי לפסח של "מדברים פתוח" עם קונספט מיוחד – אתם שאלתם, ואנחנו ענינו! אילן וג'וש אספו שאלות מהמאזינים על הנושאים החמים ביותר בעולם הבינה המלאכותית:

• האם בעתיד נוכל לזהות תוכן סינתטי ו Deepfake, ומה הסיכונים הכרוכים בכך? • האם מבחן טיורינג עדיין רלוונטי כאשר ה-AI נהיה כה אנושי? • מה זה "וייב קודינג", והאם כתיבת קוד תהפוך נגישה לכל אדם או שתגרום לשינוי דרמטי במקצוע המפתח? • כיצד AI משפיע על החשי...

בפרק הזה של "מדברים פתוח" אנחנו מארחים שוב את לירן טל, Developer Advocate בסניק ומומחה לאבטחת מידע, לשיחה מרתקת על סכנות ופרצות אבטחה בעולם ה-LLMs וה-AI. נסקור את סוגי המתקפות החדשות שנוצרו עם ההייפ סביב המודלים, כמו Prompt Injection ו-Data Poisoning, נדבר על איך אפשר להתגונן מפני פרצות כאלה, וננסה להבין איך לא חוזרים שוב על טעויות העבר. הצטרפו אלינו כדי להכיר את הסיכונים שאולי אתם אפילו לא מודעים להם – וכיצד להי...

בפרק זה התעמקנו בשאלות קריטיות סביב בינה מלאכותית ואחריות – Responsible AI. בשיחה פתוחה עם אורח מיוחד מהאקדמיה, פרופ׳ אבי (אביגדור) גל מהטכניון, דנים בהיבטים משפטיים, אתיים וטכנולוגיים של השימוש ב-AI. בין השאלות שעל הפרק: מי נושא באחריות כאשר מערכות בינה מלאכותית פוגעות בזכויות הפרט או גורמות להפליות? כיצד ניתן לשלב תהליכי פיתוח, רגולציה ואחריות חברתית תוך שמירה על חדשנות? בנוסף, מוצגות דוגמאות מעשיות – מתה...

בפרק זה אירחנו את שרון דשת, ארכיטקטית AI and Data מרד האט המתמחה בתחום הבינה המלאכותית. שוחחנו על סוגים שונים של סוכנים חכמים, המטרות שלהם, והבעיות שהם נועדו לפתור.

links:

• Andrew Ng Explores The Rise Of AI Agents And Agentic Reasoning | SnowFlake BUILD 2024 Keynote
• https://www.geeksforgeeks.org/what-is-agentic-ai/
• https://research.ibm.com/blog/ibm-swe-agents
...

בעולם שלנו שבו הטכנולוגיה מתקדמת בקצב מסחרר והכול משתנה במהירות, לא רק מנהלים צריכים ללמוד להתמודד עם שינויים ואי־ודאות. בדיוק בגלל זה הזמנו את דורון פדיוק Red Hat - Director of Engineering – מנהל עתיר ניסיון בהובלת שינויים – לשתף אותנו בטיפים ותובנות על Change Management: מה זה בעצם אומר, ואיך צולחים בהצלחה תקופות מאתגרות. מוזמנים להצטרף לפרק הקרוב ולקבל כלים פרקטיים שיכולים לעזו...