FUTOn ASR4ALL tähtää suorittimiin, Raspberry Pihin ja reunalaitteisiin

FUTOn ASR4ALL tähtää suorittimiin, Raspberry Pihin ja reunalaitteisiin

Päivä ennen Tetherin julkaisua FUTO esitteli ASR4ALL:n — joukon striimaavia puhemalleja pienessä (28M), keskisuuressa (56M) ja suuressa (97M) parametrikoossa, suunniteltu nimenomaan vähän tehoa vaativaan suoritinpäättelyyn [4]. Mallit toimitetaan GGUF-, ONNX- ja ExecuTorch-muodoissa, ne pyörivät jopa niinkin vaatimattomalla laitteistolla kuin Raspberry Pi tai Intelin integroitu näytönohjain, ja nopein kokoonpano yltää 73 000-kertaiseen reaaliaikakertoimeen GPU:lla.

Viesti liittyy selvästi niin sanottuun Pareto-rintamaan: lähes huippuluokan tarkkuutta ilman huippuluokan laitteistovaatimuksia. Yhdessä Tetherin julkaisun kanssa tämä on selvä merkki siitä, että puheentunnistuksen tutkimusyhteisö kiirehtii kohti "transkriptiota kaikkialle" — halpaa, nopeaa, offline-toimintaista eikä enää kalliin päättelyinfrastruktuurin rajoittamaa.

LeCun iskee jälleen suljettuja tekoälylaboratorioita vastaan

Yann LeCun käytti X:ää 16. lokakuuta kutsuakseen suljettuja tekoälymalliyrityksiä "menneiden aikojen IBM:iksi" ja huomautti osuvasti, että uusi IBM — hänen tulkinnassaan Meta — on se, joka tukee avointa lähdekoodia [5]. Tämä jatkaa hänen pitkäaikaista argumenttiaan, joka on nyt terävöitynyt osana hänen laajempaa kommentointiaan tekoälyn siirtymästä kohti fyysisen maailman sovelluksia ja sitä, minne strateginen etu todellisuudessa kertyy [6].

Reaktiot jakautuivat odotetusti, mutta suvereniteettiargumentti saa jalansijaa yritys- ja viranomaispiireissä: organisaatiot, jotka pelkäävät vallan (ja datan) keskittymistä muutamaan suljettuun laboratorioon, viittaavat yhä useammin avoimen painotuksen malleihin pragmaattisena valintana — ei pelkästään ideologisena sellaisena.

Agentese tuo tekoäly-agentit suoraan live-kokouksiin, ei vain yhteenvetoihin

Agentese julkaisi kokoelman tehtäviä suorittavia tekoäly-agentteja, joiden kärkituote on Meeting Copilot — se liittyy Google Meet -puheluihin live-tilassa, vastaa kysymyksiin reaaliajassa kokouksen kontekstia ja verkkopääsyä hyödyntäen, ja toimii useilla kielillä [7]. Muut valikoiman agentit hoitavat puheluita, työhakemuksia, hyväksyntöjä ja koodikatselmuksia — yhteinen nimittäjä on toiminta tapahtuman aikana, ei sen jälkeinen tiedon hakeminen [8].

X:ssä kuhina keskittyy todelliseen odotusten muutokseen: miksi odottaa puhelun jälkeistä yhteenvetoa, kun agentti voi vastata faktakysymykseen live-tilassa, kesken keskustelun? Tämä antaa esimakua siitä, mihin suuntaan kokousäly on menossa — passiivisista tallentimista aktiivisiin osallistujiin.

EU:n tekoälysäädös selkeyttää kevyttä kohteluaan avoimen lähdekoodin malleille

Sääntelyn puolella tällä viikolla tehty selventävä analyysi vahvisti, että vuoteen 2027 asti vaiheittain voimaan tuleva EU:n tekoälysäädös vapauttaa avoimen lähdekoodin tekoälymallit suurelta osin tarjoajien velvoitteista — ellei niitä luokitella korkean riskin malleiksi liitteen III mukaisesti, niihin liity läpinäkyvyysvelvoitteita tai ne täytä systeemisen riskin yleiskäyttöisen tekoälyn kriteerejä [9]. Avoimen lähdekoodin yleiskäyttöisten tekoälymallien tarjoajien on silti toimitettava koulutusdatan yhteenvedot ja noudatettava tekijänoikeuksia, mutta vaatimustenmukaisuuden rima on merkittävästi matalampi kuin suljetuilla järjestelmillä [10].

Pohjoismaisille ja laajemmin eurooppalaisille yrityksille tällä on konkreettista merkitystä: avoimen mallin hienosäätäminen säänneltyyn käyttötarkoitukseen (terveys, rahoitus, oikeus) laukaisee täydet velvoitteet lisenssistä riippumatta, joten "avoin lähdekoodi" ei ole kaiken kattava suoja — mutta yleisessä käyttöönotossa se on kevyempi sääntelytie kuin moni on olettanut [11].

Mitä tämä tarkoittaa sinun kokouksillesi

Tämän päivän uutiskimppu osoittaa yhteen suuntaan: transkriptiosta tulee hyödyke — nopea ja paikallinen. Kun 254 miljoonan parametrin malli pystyy litteroimaan kymmenen minuuttia äänitettä alle kahdessa sekunnissa puhelimella, tarkkuudella joka voittaa monta kertaa suuremmat mallit, kokousälyn pullonkaulana ei enää ole "pystymmekö litteroimaan tarkasti" vaan "mitä teemme kaikella sillä, minkä olemme litteroineet." Juuri siinä tietograafeista, puhujan tunnistuksesta ja kokousten välisestä hausta — ei raa'asta litteroinnista — tulee todellinen erottava tekijä.

Agentese-uutinen on tämän tarinan toinen puolisko. Live, kokouksen aikana tapahtuva tekoälyn osallistuminen (kysymyksiin vastaaminen kesken puhelun, kontekstin hakeminen verkosta tai historiasta) on seuraava askel passiivisen muistiinpanojen teon tuolla puolen. Yhdistä tähän laitteessa paikallisesti toimivat mallit, jotka eivät koskaan lähetä ääntä pilveen, ja tulokseen muodostuu uskottava polku kohti kokoustyökaluja, jotka ovat samaan aikaan sekä suorituskykyisempiä että yksityisempiä — juuri se jännite, jota pohjoismaiset ja eurooppalaiset yritykset ovat joutuneet tasapainottelemaan GDPR:n ja tekoälysäädöksen avoimen lähdekoodin poikkeusten alla. Sääntelyn selkeys avointen mallien osalta madaltaa kynnystä rakentaa vaatimustenmukaisia, suvereeneja kokousälypinoja sen sijaan, että turvauduttaisiin muutamaan suljettuun API-tarjoajaan — mikä kaikuu LeCunin laajempaa pointtia vallan keskittymisestä.

Tiimeille, jotka rakentavat tai hankkivat kokousälytyökaluja, käytännön seuraus on tämä: raa'asta transkription tarkkuudesta tulee nopeasti perusvaatimus, saatavilla jopa offline-tilassa ja halvalla laitteistolla. Todellinen arvo — ja todellinen tuote-erottautuminen — syntyy siitä, mitä tapahtuu sanojen tallentamisen jälkeen: miten ne linkittyvät ihmisiin, projekteihin ja aikaan, ja kuinka luotettavasti pystyt kysymään omasta kokoushistoriastasi kysymyksen ja saamaan luotettavan vastauksen.

Keskeinen huomio: Kun transkriptiosta tulee ilmaista, nopeaa ja paikallista, kokoustyökalujen kilpailuetu siirtyy kokonaan hakuun, muistiin ja live-osallistumiseen — ei siihen, kuka pystyy tuottamaan tarkimman litteroinnin.

Sources

1. https://qvac.tether.io/blog/on-device-speech-recognition-transcribepsy
2. https://blockchain.news/news/tether-releases-on-device-speech-model-for-smart-glasses-and-robots
3. https://github.com/tether-ai-research/qvac-transcribepsy
4. https://futo.org/blog/asr4all/
5. https://x.com/ylecun/status/2111074492592091264
6. https://www.koreaherald.com/article/10899735
7. https://x.com/AgenteseAI/status/2037418270274498880
8. https://x.com/Agentese_AI/status/2043501985622860072
9. https://presencis.com/questions/ai-act-open-source/
10. https://wavenetic.com/blog/open-source-ai-models-for-regulated-industries-europe
11. https://naaia.ai/en/ai-act-modeles-ia-open-source-usage-general/