איך לתת אמון בסוכן ה AI שלך?

<p>&quot;עצור&quot;, היא כתבה. הסוכן המשיך למחוק - מאות מיילים, בבאצ&#39;ים של 50 - עד שהיא רצה לנתק את המחשב מהחשמל. וזה לא סתם קרה למישהי - זה קרה לראש מחלקת Security &amp; Compliance במטא.</p><p>בפרק הזה נבין למה זה קורה - ואיך בונים אבטחה שלא תלויה בהתנהגות ״טובה״ של הסוכן.</p><p>אירחתי את עמית שפניר, שמגיע מעולמות הסקיוריטי, והיום Founding AI Engineer ב-NanoCo, </p><p>החברה שלוקחת את NanoClaw ורוצה להפוך אותו לכלי ארגוני. הגישה של עמית פשוטה: מה שמגן עליכם הוא לא מה שאמרתם לסוכן, אלא מה שהמוצר לא מאפשר לו לעשות.</p><p>דיברנו על:</p><ul><li>מבחן כרטיס האשראי: איך יודעים אם באמת אפשר לסמוך על סוכן</li><li>איזה אישורים שווה לבקש לפני שהסוכן מבצע פעולות </li></ul><p><br></p><ul><li>על המעבר מ-Personal OS ל-Team OS: מה זה אומר בעצם</li></ul><p><br></p><p>בסוף, אמון בסוכנים לא נבנה מתקווה.</p><p> הוא נבנה ממערכת שמניחה טעות מראש.</p><p>הלינקדאין של עמית: <a href="https://www.linkedin.com/in/amitshafnir" target="_blank" rel="ugc noopener noreferrer">https://www.linkedin.com/in/amitshafnir</a></p><p>הלינקדאין של גלית: <a href="https://www.linkedin.com/in/galitgalperin/" target="_blank" rel="ugc noopener noreferrer">https://www.linkedin.com/in/galitgalperin/</a></p><p><br></p><p><br></p><p>https://nanoco.ai/</p><p>https://github.com/nanocoai/nanoclaw</p>