Hi brunso,
hab sowas zwar noch nicht selber gemacht, aber im Zweifelsfall musst du das Verhalten der ButtonGroup händisch implementieren - sprich - ActionListener drauf und in actionPerformed- Methode die restlichen ToggleButtons dementsprechend umsetzen.
Gruss, Manuel