Quando abbiamo il focus su un JButton premendo spazio possiamo eseguire un click, ecco come eseguire la stessa cosa usando invio(o altiri tasti modificando il sorgente) al posto di quello di default:

-----
import javax.swing.*;
import java.awt.event.*;

public class a extends JFrame {
a() {
JButton test = new JButton("ciao");
test.addKeyListener(new KeyAdapter() {
public void keyPressed(KeyEvent ke) {
if(ke.getKeyChar() == KeyEvent.VK_ENTER) {
JButton sorgente = (JButton)ke.getSource();
sorgente.doClick();
} else if(ke.getKeyChar() == KeyEvent.VK_SPACE) {
ke.consume();
}
}
});
add(test);
setSize(200, 300);
setVisible(true);
}


public static void main(String args[]) {
new a();
}

}
-------

Praticamente viene catturato il sorgente che ha scatenato l'evento, castato in JButton e viene simulato il click con doClick.
Per togliere lo spazio si cattura la sua pressione e la si ignora con consume.