Un modo diretto non c'è, a meno che sia un effetto incluso nel plug-in Nik Color Efex Pro 3 (nella versione Stand-alone che ho il non c'è, ma quella completa ha molti effetti in più dei soli 15 inclusi nella standard).
Potresti provare col pennello + (con la penna viene meglio che col mouse: impostando l'opacità e la dimensione del pennello in funzione delle pressione) e diminuire la luminosità agli angoli, poi convertire in BN.
Altrimenti, un'altro metodo (sicuramente più veloce) è quello di posizionare un U-Point in ogni angolo (o quanti ne servano per ricreare l'effetto), diminuire la luminosità e la dimensione in funzione di quanto si vuole creare l'effetto e poi convertire in BN.
Quest'ultimo metodo, però, potrebbe non andare bene sempre in quanto, una volta piazzato l'U-Point, al variare degli slides, varieranno i colori compresi nel raggio d'azione dello strumento, quindi, non è detto che il risultato sia una vignettatura.
Spero si capisca quello che ho scritto....

Ciao,
Alessandro.
P.S.: In allegato una prova che ho fatto molto velocemente col sistema degli U-Point. Come vedi non è perfetto per il discorso che facevo prima, ma, aggiungendone qualcuno in più , si riesce a migliorare molto
Clicca per vedere gli allegati