11/06/2025
Коли ШІ пам’ятає більше, ніж ви самі — що може піти не так?
Ця провокативна ідея, яку нещодавно обговорили в TechCrunch, викликала жваву дискусію в нашій команді. Бачення Сема Альтмана щодо ChatGPT як персонального « пам’яттєвого асистента » на все життя — водночас захоплює і тривожить. Ми одразу зрозуміли — цю тему варто обговорити.
Уявіть, що всі ваші спогади — тобто ваша ідентичність — потрапляють у руки великої технологічної компанії. Так, потенційні вигоди величезні, але й ризики не менш серйозні.
Епізод Black Mirror «Common People» дуже точно передає цю тривогу. У центрі сюжету — жінка, якій видаляють частину мозку та замінюють її імплантом, підключеним до хмарного сервісу. Це рятує їй життя, але щоб продовжувати функціонувати, вона змушена постійно платити за підписку. Згодом основні аспекти її особистості — памʼять, емоції, навіть мова — опиняються за «платним доступом». Це потужна метафора того, що може статися, якщо ми дозволимо корпораціям зберігати наші спогади. Коли доступ до власної свідомості контролюється сторонньою комерційною структурою, межа між допомогою і зловживанням стає надзвичайно розмитою.
Уявіть, як легко така модель може маніпулювати вами, знаючи все про ваші звички, страхи, мрії чи вразливості. Особливо, якщо вона належить комерційній компанії, основна мотивація якої — прибуток.
Наш тім-лід, ШІ експерт переконаний, що прийнятним сценарієм для такого персонального асистента може бути лише повна власність користувача. Тобто: ваші дані залишаються виключно у вас і не передаються без прямої згоди, а сама модель є повністю прозорою — як у своїй архітектурі, так і у джерелах навчання.
І навіть за таких умов — ми ще не готові. Проблема «галюцинацій» залишається невирішеною. Згідно з офіційним звітом OpenAI, нова модель o3 генерує більше вигаданих фактів, ніж її попередниця o1.
ШІ, який має доступ до всіх аспектів вашого життя і здатен вигадувати «факти», може серйозно вам нашкодити — від викривлення вашої історії до хибних рішень.
Отже, так, ідея надперсоналізованого ШІ-асистента звучить привабливо. Але доти, доки він не стане повністю підконтрольним користувачу, абсолютно прозорим і доведено безпечним — це не прорив, а ризик.
А ви б довірилися ШІ, який знає про вас усе — якщо б він обіцяв спростити ваше життя? Чи, можливо, деякі речі краще залишити забутими?
Повна стаття на TechCrunch, яка стала приводом для цієї розмови, за посиланням:
🔗 https://techcrunch.com/2025/05/15/sam-altmans-goal-for-chatgpt-to-remember-your-whole-life-is-both-exciting-and-disturbing
Посилання на system card для моделей o3 та o4-mini:https://cdn.openai.com/pdf/2221c875-02dc-4789-800b-e7758f3722c1/o3-and-o4-mini-system-card.pdf
OpenAI CEO Sam Altman laid out a big vision for the future of ChatGPT at an AI event hosted by VC firm Sequoia earlier this month. When asked by one OpenAI CEO Sam Altman said that he eventually sees the model documenting and remembering everything in a person’s life: books, emails, conversations,...