Kiri

Faili leidmiseks tuli sageli teada selle nime, asukohta või autori kasutatud sõnu. Olin aastaid püüdnud seda nimetamisreeglite ja kaustastruktuuridega lihtsamaks teha. Paralleelsete teadmistekogude pidamine andis mulle tööd juurde ja tekitas võimaliku turvariski, samal ajal kui teised nägid algses süsteemis endiselt info leidmisega vaeva.

Tahtsin, et otsing töötaks ettevõtte olemasolevate tööriistadega, nii et kogu teadmistekogu ei peaks jälle mujale kolima. Dokumendid olid vaid osa probleemist: kasulikke otsuseid oli ka e-kirjades ja sõnumites. Pikemas plaanis hõlmas idee neidki kanaleid ning võimalust eristada faili olemasolust teada saamist õigusest seda lugeda.

Arendajad, kellega kohtusin, olid ühendanud Confluence'i Microsoft Teamsi botiga. Otsustasime ehitada laiema tähenduspõhise otsingutoote, mis leiaks sisu tähenduse järgi ega sõltuks täpsest märksõnavastest. Uurisime nii ettevõttesisest otsingut töötajatele kui ka avalike veebilehtede otsingut, kus külastajad ei pruukinud sisu ülesehitusest midagi teada.

Uurisin turgu ja intervjueerisin oma võrgustiku võimalikke kliente. Keskendusime konsultantidele, finantsvaldkonna inimestele ja juristidele, sest nad töötasid paljude eri dokumentidega. Nad tahtsid lihtsasti kasutatavat tööriista, mis annaks infole ligipääsu, oleks turvaline ja tuleks toime kasvava andmemahuga. Arendust juhtisid meie neli arendajast kaasasutajat.

Avalike veebilehtede jaoks kavandasime API-põhise lahenduse, mille kaudu saaks ettevõte sisu üles laadida ja päringuid teha, säilitades kontrolli kasutajaliidese üle. Tahtsime, et tulemused uueneksid juba kirjutamise ajal. Otsinguanalüütika aitaks sisuhalduritel näha, millised küsimused said kasuliku vastuse ja milline info oli puudu.

Ettevõttesiseseks otsinguks pakkusime Teamsi või Slacki kasutamist, et inimesed ei peaks veel üht tööriista avama. Tulemus sisaldaks lehe linki, pealkirja ja päringuga sobivat tekstilõiku. Kaalusime dokumendi teksti talletamist omaniku loal või selle küsimist vajaduse korral ettevõtte API kaudu. Seetõttu arutasime otsingu kõrval kohe ka süsteemide ühendamist ja andmete käsitlemist.

Käivitasime MVP ja katsetasime väikest beetaversiooni. 2020. aasta augustis tegime Eesti valitsusele demo eesmärgiga eesti.ee otsingut kiirendada ning näitasime lahendust ka Tele2-le. Kummagi organisatsiooni juures me seda kasutusse ei võtnud. Oktoobriks katsetas mõni ettevõte, kas beetaversioon sobib nende vajadustega.

Avaldasime loomuliku keele töötlusmootori koos kohaliku ja API-põhise kasutuse näidetega. Tehnilise töö käigus uurisime märksõnaotsingut, BM25 järjestusmeetodit, sõnavektoreid ja lausete tähenduse võrdlemist. Kaalusime ka küsimustele vastamist, tekstide liigitamist ja kokkuvõtete tegemist. Mina hakkasin edasi uurima lihtsamaid tööriistu AI-funktsioonide lisamiseks toodetele, kuid see jäi veel uuritavaks ideeks.

MVP olemasolu muutis kliendivestlusi. Saime arutada konkreetset päringut, infot, mida inimene otsis, ja seda, kuidas tulemus peaks kasutajale paistma. Beeta ja demod andsid meile võimaluse katsetada, kas meie idee sobib ka inimestele väljaspool tiimi.

Äriline tagasiside oli keeruline. Osa intervjueerituid leidis, et Google'i Programmable Search Engine, Algolia Search API või avatud lähtekoodiga Elasticu lahendus annaks piisavalt hea tulemuse palju odavamalt. 2020. aasta võrdluses ei suutnud me oma ressurssidega Algolia hinnaga konkureerida. Samuti oli meil raske selgitada, miks peaks keegi ostma Kiri, kui saadaval olid uuemad otsingutooted.

Jõudsime arusaamale, et suur osa kliendi probleemist puudutas otsingu optimeerimist. Meie arendajad olid lootnud masinõppekesksemat tööd. Pärast ebaõnnestunud Y Combinatorisse kandideerimist lõpetasime tegevuse. Olime ehitanud toote, mida inimesed said katsetada, kuid polnud leidnud piisavalt veenvat äri, mida kogu tiim tahtnuks edasi arendada.

Tundsin probleemi hästi, sest olin seda ise kogenud. Seetõttu oli lihtne eeldada, et ka teised tahavad oluliselt paremat otsingutööriista. Mõnele ostjale sobis odavam lahendus, mis oli piisavalt hea. Pidin varem aru saama, kui palju meie pakutud parandus neile väärt oleks ja kas suudaksime seda sellise hinnaga pakkuda.

Valitsuse ja Tele2 demod õpetasid mind küsima konkreetset järgmist sammu. Kasulik vestlus suure organisatsiooniga jätab endiselt lahtiseks eelarve, süsteemide ühendamise ja selle, kes saab ostuotsuse teha. Pööran nüüd rohkem tähelepanu demole järgnevale kokkuleppele kui osalenud organisatsiooni nimele.

Mind huvitas info leidmise äri, arendajad tahtsid rohkem masinõppega tegeleda. Meil oli ühine huvi AI vastu, kuid erinevad ootused igapäevasele tööle. Enne järgmise toote alustamist räägiksin läbi, millist klientide jaoks vajalikku tööd igaüks meist teha tahab, sealhulgas tehniliselt vähem huvitavaid ülesandeid.

Üks lausete sarnasuse näide jäi mulle meelde: päring "kõik peale loomavideote" tõi ikka tulemuseks loomavideod. Tekst oli päringuga seotud, kuid tulemus eiras välistust. See muutis mind tähenduspõhise otsingu hindamisel ettevaatlikumaks. Mudelit tuli katsetada inimeste tegelike päringutega, sealhulgas juhtudega, kus pealtnäha sobiv vaste oli vale.

Enne uue otsingutoote ehitamist koguksin küsimusi, millele inimestel on korduvalt raske vastust leida, ja prooviksin neid olemasolevates tööriistades. Millist infot on raske leida ja mida see takistab? Samade päringute ja dokumentide võrdlemine näitaks, kas väiksem parandus on piisavalt kasulik, et sellega edasi tegeleda.

Mõtleksin varakult läbi ka ligipääsu ja süsteemide ühendamise. Kiris mõjutas toote toimimist valik, kas talletada dokumendi tekst või küsida seda API kaudu. Katse peab arvestama nende piirangute ja käitamise kuluga. Samuti peab olema selge, kes vastutab olemasolevate süsteemidega ühendamise eest.

Iga tulemuse puhul kontrolliksin, kas see vastab päringule ning arvestab välistuste ja ligipääsupiirangutega. Lepiksin tiimiga kokku, milline paranemine õigustaks edasist tööd ja millal katse lõpetada. Nii oleks lihtsam otsustada, kas jätkata, enne kui investeerime laiema toote arendusse.