Luciano e Tito,
Obrigada pela ajuda, mas infelizmente não deu certo pois eu tenho duas matrizes diferentes, e a sintaxe que vocês me passaram serviria para vetores.

Eu usei um pouco diferente e deu certo:

coord <- coord1 <- coord2 <- matrix(NA,480,216)

for(i in 1:480){
    for(j in 1:216){
        if (lat[i,j] < latmax
        & lat[i,j] > latmin)
          { if(lon[i,j] < lonmax
            & lon[i,j] > lonmin)
                    coord[i,j] <- 1
                    coord1[i,j] <- lat[i,j]
                    coord2[i,j] <- lon[i,j]
    }
   }
  }

Agora a minha resposta são matrizes de NA e 1 quando a lat/lon está contida na área do polígono.

Obrigada pelas dicas,

Abc,
Heloise

---
Oc. Heloise Pavanato
Pós-graduação em Oceanogra Biológica
Instituto de Oceanografia
Universidade Federal do Rio Grande