[1710.09829] dynamisk Routing mellem kapsler

Titel:dynamisk Routing mellem kapsler

Hent PDF

Abstrakt: en kapsel er en gruppe neuroner, hvis aktivitetsvektor repræsenterer instantiationsparametre for en bestemt type enhed, såsom et objekt eller en anobjektdel. Vi bruger længden af aktivitetsvektoren til at repræsenteresandsynligheden for, at enheden eksisterer, og dens orientering til at repræsentereinstantiationsparametre. Aktive kapsler på et niveau gør forudsigelser, viatransformationsmatricer, for instantiationsparametrene for højere niveaukapsler. Når flere forudsigelser er enige, bliver en kapsel på højere niveauaktiv. Vi viser, at en diskriminerende uddannet, flerlags kapselsystem opnår state-of-the-art ydeevne på MNIST og er betydeligt bedre endet indviklet net til at genkende stærkt overlappende cifre. For at opnå disse resultater bruger vi en iterativ routing-for-aftale mekanisme: En kapsel på lavere niveau foretrækker at sende sin produktion til kapsler på højere niveau, hvis aktivitetsvektorer har et stort skalarprodukt med forudsigelsen fra kapslen på lavere niveau.