O strojovém p°ekladu

(1)

O strojovém p°ekladu

Mgr. Martin Popel, Ph.D.

Ústav formální a aplikované lingvistiky, Matematicko-fyzikální fakulta, Univerzita Karlova

http://ufal.cz/martin-popel

source Great talkers are little doers.

Yandex Velké talkers jsou trochu £initelé.

Bing Velcí vysíla£ky jsou malí £initelé.

Google Velcí mluv£í jsou malí lidé.

TectoMT Velcí °e£níci jsou malí vrazi.

CUBBITT Velcí mluvkové jsou malí d°í£i.

(2)

ím se zabývá po£íta£ová lingvistika?

²

(3)

Kontrola p°eklep· gramatiky

³

Dívce ne²ly hodinky.

Chlapci ²ly.

Kdo kam co donesl?

Chlapec ²li do ²koly.

(4)

Kontrola p°eklep· gramatiky

³

Dívce ne²ly hodinky. Chlapci ²ly.

Kdo kam co donesl?

Chlapec ²li do ²koly.

(5)

Kontrola p°eklep· gramatiky

³

Dívce ne²ly hodinky. Chlapci ²ly.

Kdo kam co donesl? Chlapec ²li do ²koly.

(6)

Kontrola p°eklep· gramatiky

³

http://ufal.cz/korektor

(7)

Automatické generování zpráv

⁴

zpráv p°ibývá (FB, Twitter), noviná°· ubývá, zisky klesají,

£tená°i cht¥jí zprávy personalizované a hned

(8)

Automatické generování poezie

⁵

Byl by to rytí°, kde v plán¥ h°ích vzlet,

V¥d¥ jsem jse seheldo na p°ídoutn¥ v sv¥t¥ si nezastavá:

Ukryjemné, chv¥la, milý nás jest Kolem jsou jest vyhrávaných A svítí co plá£em, rád pravil:

Ale plná jízdo zaporodilo se, vys.

jiº dávno vás poháru a vlanných rány, v jablon¥ní je pí²e je i v kristování,

srdce v své ºenských svém v obly p¥tky tam a vzíti, na kó¬ku je, milý sv¥ºek.

(9)

Automatické generování poezie

⁵

I'll come a bit later on my own.

Sem £elist je²t¥ na své milé.

(10)

Automatické generování poezie

⁵

I'll come a bit later on my own.

Sem £elist je²t¥ na své milé.

(11)

Kdyº robot pí²e (divadelní) hru

⁶

MFF + DAMU + vandovo divadlo premiéra 26. 2. 2021 (100 let po R.U.R.)

https://www.theaitre.com

(12)

Detekce korupce £i emocí v textu

⁷

(13)

Automatický v¥tný rozbor

⁸

v¥tný rozbor dostupný pro 50 jazyk·

p°esnost pro £e²tinu asi 90% (85% v£etn¥ morfologie)

https://lindat.cz/services/udpipe/

(14)

Word embeddings

⁹

Umíte s£ítat a od£ítat £ísla?

A co slova a obrázky?

(15)

Word embeddings

⁹

král - muº + ºena = ?

(16)

Word embeddings

⁹

král - muº + ºena = královna Tomá² Mikolov, 2012, word2vec

https://projector.tensorflow.org/

(17)

Word embeddings

⁹

-2 -1.5 -1 -0.5 0 0.5 1 1.5 2

Country and Capital Vectors Projected by PCA

China

Japan

France Russia

Germany

Italy

Spain Greece

Turkey

Beijing

Paris Tokyo

Poland

Moscow

Portugal

Berlin

RomeAthens

Madrid Ankara

Warsaw

Lisbon

(18)

Strojový p°eklad angli£tina → £e²tina 20072019

¹⁰

2006 2008 2010 2012 2014 2016 2018

0 0.2 0.4 0.6 0.8 1

relativníkvalita

PC-Translator TectoMT

nejlep²í

nejhor²í

(19)

Strojový p°eklad angli£tina → £e²tina 20072019

¹⁰

2006 2008 2010 2012 2014 2016 2018

0 0.2 0.4 0.6 0.8 1

relativníkvalita

Moses

nejlep²í

nejhor²í

(20)

Strojový p°eklad angli£tina → £e²tina 20072019

¹⁰

2006 2008 2010 2012 2014 2016 2018

0 0.2 0.4 0.6 0.8 1

relativníkvalita

Moses Google

nejlep²í

nejhor²í

(21)

Strojový p°eklad angli£tina → £e²tina 20072019

¹⁰

2006 2008 2010 2012 2014 2016 2018

0 0.2 0.4 0.6 0.8 1

relativníkvalita

Moses Google Chimera

nejlep²í

nejhor²í

(22)

Strojový p°eklad angli£tina → £e²tina 20072019

¹⁰

2006 2008 2010 2012 2014 2016 2018

0 0.2 0.4 0.6 0.8 1

relativníkvalita

Moses Google Chimera

NMT

nejlep²í

nejhor²í

(23)

Hloubkov¥-syntaktický p°eklada£ TectoMT

¹¹

a-tree zone=en_src

ISb PRP

'dPred MD

rather AdvRB

beObj VB

aAuxA DT

hammer PnomNN

thanAuxP IN

aAuxA DT

nailAtr NN .AuxK .

t-tree zone=en_src

#PersPron ACT n:subj I

rather MANN adv rather

be.enunc PRED v:fin 'd be

hammer PAT n:obj a hammer

nailCPR n:than+X than a nail

t-tree zone=cs_tst

#PersPron ACT n:1 spíše

MANN adv Spíše

být.enunc PRED v:fin bych byl

kladivo PAT n:1 kladivo

hřebík CPR n:než+1 než hřebík

a-tree zone=cs_tst

Spíše

!!Dg bychAuxV Vc

byl!!

VpYSXRA kladivo

!!NNNS1

nežAuxP J,

hřebík

!!NNIS1 .AuxK Z:

I'd rather be a hammer than a nail. Spí²e bych byl kladivo neºh°ebík/nehet.

& blocks

source language (English) target language (Czech) morphological layer

analytical layer tectogramatical layer

a-layer

m-layer w-layer

ANALYSIS TRANSFER SYNTHESIS

t-layer

tokenization lemmatization tagger (MorphoDiTa)

dependency parser (MST) analytical functions

mark edges to contract build t-tree

fill formems grammatemes use

HMTM query dictionary

fill morphological categories impose agreement

add functional words generate wordforms

concatenate

rule based statistical

segmentation

(24)

Co je to?

¹²

(25)

40 GPU (GeForce GTX 1080 Ti, 12 miliard tranzistor·)

¹²

(26)

Um¥lá inteligence a její podobory/vývoj

¹³

um¥lá inteligence

∼1950

strojové u£ení

∼1980 hluboké u£ení

∼2010

(27)

Um¥lá inteligence a její podobory/vývoj

¹³

um¥lá inteligence

∼1950

strojové u£ení

∼1980 hluboké u£ení

∼2010

(28)

Neuronová sí´

¹⁴

jednoduchá architektura (16 parametr·)

https://playground.tensorflow.org

(29)

Neuronová sí´

¹⁴

jednoduchá architektura (16 parametr·)

https://playground.tensorflow.org

(30)

Neuronový p°eklada£ CUBBITT

¹⁵

architektura Transformer (213 milion· parametr·)

(31)

Neuronový p°eklada£ CUBBITT

¹⁵

sí´ se sama u£í d·leºité vztahy mezi slovy (díky self-attention)

(32)

Vyhodnocení anglicko-£eského p°ekladu

¹⁶

56 % v¥t p°eloºil p°esn¥ji ná² p°eklada£ CUBBITT 34 % profesionální p°ekladatelská agentura

Zkuste si CUBBITT sami:

https://lindat.cz/cubbitt (En↔Cs, Fr, Pl)

(33)

Rizika strojového p°ekladu

¹⁷

zdroj:The Guardian (2017)

denn¥ p°es 100 miliard slov (Google, Microsoft, Baidu, Amazon,...) velikost trhu za rok 2020: 650 milion· dolar·

(34)

Rizika strojového p°ekladu

¹⁷

zdroj:The Guardian (2017)

denn¥ p°es 100 miliard slov (Google, Microsoft, Baidu, Amazon,...) velikost trhu za rok 2020: 650 milion· dolar·

(35)

Document-level translation

¹⁸

Source Jana je ºena. Pracuje jako pr·vod£í.

Google Jana is a woman. He works as a guide.

Bing Jana is a woman. He works as a conductor.

CUBBITT Jane is a woman. He works as a conductor.

CUBBITT-doc Jana is a woman. She works as a conductor.

DeepL Jana is a woman. She works as a conductor.

Source Nikdo nedokáºe pochopit, pro£ Pavla d¥lá to, co d¥lá.

Pracuje jako pr·vod£í.

CUBBITT-doc No one can understand why Pavla does what she does.

She works as a conductor.

DeepL No one can understand why Paul does what he does.

She works as a conductor.

(36)

Ukázky p°ekladu

¹⁹

source As good be an addled egg as an idle bird.

Bing Jako dobrý být popletený vejce jako ne£inný pták.

Google Jako dobrá být v£len¥ná vejce.

T2009 Dobré je fe´ácké vejce jako £inný pták.

T2018 Dob°í bu¤te plete vejce jako ne£inný pták.

CUBBITT Stejn¥ dobré je být pomateným vejcem jako zahálejícím ptákem.

source A miss by an inch is a miss by a mile.

Bing Miss o palec je Miss o míli.

Yandex Sle£na tím, ºe palec je vedle o míli.

Google Chyb¥jící palcem je míle vzdálená míle.

T2009 Sle£na palec je sle£na miliónu.

T2018 Sle£na palce je sle£na míle.

CUBBITT Minutí o centimetr je o kilometr.

Birds of a feather ock together.

Ptáci pe°í stáda dohromady.

Vrána k vrán¥ sedá.

Ptáci v bederním hejnu spolu.

Ptáci pé°ového hejna spolu.

Vrána k vrán¥ sedá.

Zkuste si CUBBITT sami: https://lindat.cz/cubbitt

O strojovém p°ekladu