Фото Rubaitul Azad на Unsplash
Quora мала просту концепцію: це місце, де можна ділитися знанням і експертізою, де цікаві розуми могли ставити питання на будь-яку тему, яка тільки може прийти на думку, і отримувати обдумані, добре обгрунтовані відповіді від ерудованої спільноти платформи.
Замисліть Яндекс.Відповіді для технічних співробітників і інтелектуалістів у стилі автора Малкольмґа Гладвелла.
Заснований у 2009 році двома колишніми працівниками Facebook, Quora швидко набрав обертів, представляючи відповіді від вражаючого складу видатних осіб Силіконової долини, академічних працівників лави Ліґи Америки, знавців індустрії та ентузіастів, які прагнули дати свою думку на всім, починаючи від банального до езотеричного.
До 2014 року вартість компанії перевищила $900 мільйонів.
Її успіх був побудований на ідей про те, що платформи повинні не лише з'єднувати нас з інформацією, але й з людьми, які володіли цією інформацією в своїх головах.
На Quora ви могли робити більше, ніж дізнатися про квантову фізику або історію Пелопонеської війни; ви могли вивчати це через персональні нотатки та відповіді кваліфікованих експертів.
Зазначеною наміром Quora було створити складну ідеалізовану версію Інтернету, де люди альтруїстично збиралися і займалися захоплюючим діалогом та обміном знаннями.
На 2024 рік це, швидше за все, зазнало невдачі.
Причини?
- Переважно руйнівна сила цифрового маркетингу та експертів по зростанню.
- Технологія, яку інвестори та користувачі обіцяли, що підніме платформу на нові висоти: штучний інтелект.
Все почалося досить невинно. Поки спільнота Quora росла до мільйонів, компанія встановила алгоритмічні системи для допомоги у сортуванні і ранжуванні числа питань та відповідей.
Де раніше найкращі відповіді виходили на поверхню через міцну систему відгуків користувачів - метод мудрості толпи, яка нагадує підхід Reddit - тепер алгоритми важкі допомагали визначити, яке контент було піднято і сприяло просуванню.
Рушій просунувся вперед з допомогою посадки AI для вивчення інших мов. Відповіді, які були корисними і які були створені добре, все ще були відзначені у верхній частині, але штучний інтелект почав демонструвати певні особливості. Відповіді з більш екстремальними поглядами почали отримувати надмірну увагу.
Користувачі виявили, що вони можуть обманути систему, пишучи більше емоційно і енергійно, навіть якщо основний зміст був, мовимо, відсутній.
Повільно, але впевнено, алгоритми трансформували культуру та динаміку спільноти.
Коли Quora розвивався з покращеннями, здійсненими за допомогою штучного інтелекту, стали відбуватися дивні речі. Несумлінні користувачі - цифрові маркетологи та ростові хакери, які чатують у тіні кожної платформи - зрозуміли, що AI можна використовувати в свою користь.
Вони могли обманути систему, підсиливши свій вміст ключовими словами, дружніми до SEO, та перебільшеними твердженнями.
Більше того, вони дізнались, що AI мав проблеми з розрізненням між текстом, написаним людиною, та згенерованим машинною моделлю - це означало, що користувач може подати питання у мовну модель, вставити вихідний текст в Quora дослівно і спостерігати, як алгоритм засипає його відзначеннями та увагою. Майже за одну ніч сайт почав тонути в болото спаму, нестислого, AI-генерованого тексту.
Тим часом, деякі з найулюбленіших учасників Quora, академіки та експерти, які повинні були бути пріоритетом, почали віддалятися.
Навіть як AI в основному сприяв відповідям, написаним з впевненістю декларативних тверджень, багато найбільш розумних користувачів платформи були роздратовані цим. Вони завжди розуміли свою роль як додавання контексту, а не видача декретів з висоти.
Боячись бути неправильно представленими алгоритмами або не бажаючи піддаватися їм, якісні учасники вийшли з системи. Ті, хто залишилися, дивилися з нетерпінням, як їх ретельні, відточені відповіді залягають під зростаючим припливом нульового контенту - не цілком неточні, але позбавлені будь-якої справжньої поживної цінності.
Поки проблеми Quora поглиблювалися, її керівництво потрапляло в іронічну ситуацію.
Потворний кінець Quora: Як штучний інтелект спустив на підмостки та закрив вікна до мудрості
Компанія, яка побудувала свою репутацію на вшануванні знань та експертності, тепер залежала від машин, які не вміли розрізнити різницю між інформацією та мудрістю, або між текстом, який був фактичним, і текстом, що імітував модель фактів.
В захваті від пошуку залучення, алгоритми показували вміст, який "заробляв" перегляди, але повільно руйнували культуру змісту та ерудиції, яка колись характеризувала Quora. Прагнучи досягти короткострокових метрик, компанія підривала свою довгострокову життєздатність як джерело сигналу в світі, що насичений шумом.
Останнє відступництво Quora стало запуск його платформи чат-ботів, Poe. Який виглядав претенційно (і невитримано) як абревіатура "Platform for Open Exploration" (Платформа для відкритого дослідження), Poe інтегрує моделі штучного інтелекту, включаючи ті від OpenAI, Anthropic, Meta та Google.
Тепер користувачі можуть спілкуватися з цими чат-ботами, отримуючи миттєві відповіді на свої запитання. Хоча це пропонується як крок вперед у "зручності та доступності", для багатьох це останній гвоздь в декількох обідвах перспективної платформи, орієнтованої на людину.
Введення Poe, підкріпленого значними інвестиціями від популістів, які грають роль інвесторів, таких як Andreessen Horowitz, показує, наскільки повністю Quora віддався моді на штучний інтелект. Платформа, яка колись пишалася тим, що є домом для контенту, створеного людьми, тепер стала фермою для відповідей, створених за допомогою штучного інтелекту. Механізми монетизації Poe, які дозволяють створювачам ботів заробляти гроші через підписки та комісійні за кожне повідомлення, стимулюють поширення контенту, створеного штучним інтелектом, за шкоду натуральній людській взаємодії.
Отже, ми дійшли до справжньої причини занепаду Quora - і запобіжного моралі цього поста. Віддаючи все більше та більше механік та динаміки спільноти штучному інтелекту - незалежно від того, наскільки високий він був, - компанія не зрозуміла обмежень штучного інтелекту, була обслугована його розголосом
Могутність мовних моделей та їх здатність виявляти текстові закономірності та передбачати наступне слово в послідовності не завжди дозволяють виявити ознаки людської експертизи, такі як мислення, обґрунтування та знання. Цей недолік виявився недоліком цієї платформи. Як сказав один користувач, Quora сполохалося від "парламенту експертів до ферми контенту роботичних гострайтерів".
Quora не єдиний в цьому. Платформи, такі як YouTube та Facebook, борються з тим, як узгодити величезне обіцяння рекомендацій та модерації на основі штучного інтелекту з обурливою реальністю того, що ці системи не можуть робити ті різниці, які люди інтуїтивно розуміють. Вони не можуть розрізнити між авторитетною інформацією, заплутаними дезінформацією, брудними постами, проникливими коментарями та контентом, спрямованим на привертання уваги.
У найкращому випадку ці алгоритми можуть виносити на поверхню чудову несподіваність - розширюючи наші горизонти таким чином, що збагачує наше розуміння. У найгіршому випадку вони створюють викривлені стимули та винагороджують непотріб, забруднюючи культуру платформи та підриваючи довіру в її спільноту.
Вертаючись до Quora. Оскільки депресивні тенденції активізувались - зменшення участі експертів, погіршення якості контенту, непокращування сплотеності спільноти - зростання користувачів спочатку сталося на плато, а потім різко спадало.
Аналітично із мого власного оточення, ті, хто залишаються, проводять на сайті все менше і менше часу, відштовхуючись від все більш пінистого, самоспрямованого шуму.
Потенційні нові користувачі, які натикаються на Quora, ймовірно, не захоплені пухнастими, повторюваними записами, які на них чекають.
Цей удар у вигляді координації двох ударів - відходу діючих користувачів, тоді як нові учасники зупинилися, - загнали Quora в круговерть, з якої ймовірно вибратися неможливо. Це була, в сутності, вражаюча власна помилка.
До 2024 року Quora - це пустка свого колишнього я, притягаючи кількох користувачів, які насправді полюбляють платформу.
Для миттєвого моменту Quora запропонувало погляд на те, як міг би виглядати Інтернет змісту — і потім, так само швидко, як воно з'явилося, цей візія була обмінена.
Я, як колишній користувач Quora, залишаюся з тривожним питанням: чи навіть можливо надати нашим алгоритмічним інструментам відчуття і мудрості для кураторства більше, ніж просто поверхневого спілкування?
Як зберегти вразливі екосистеми експертизи перед машинами, які мають проблеми з дійсною відмінною знань від простої інформації та від спекулянтів, які будуть використовувати та зловживати цими системами на свою користь?
Незважаючи на всі можливості LLMs, вони все ще мають фундаментальні можливості і не можуть замінити людське спілкування, комунікацію і мислення. Quora, яка могла б бути, вже не існує.
Але інші молоді засновники технологій могли б добре пам'ятати складність і важливість побудови онлайн-спільнот, які піднімають зміст над неприємним, дешевим залученням і ту людську мудрість, яку ми ризикуємо втратити, коли вони все відкидають.
Перекладено з: WTF Quora: how a platform eats itself