Select or unselect selectBooleanCheckbox when clicking on another

Perhaps the Radio component may be an alternative, but if you need more custom control , you can try doing the following:

Result:

InXHTML:

<h:panelGroupid="pnlOpcoes">
<h:selectBooleanCheckbox value="#{controlador.opcao1}" disabled="#{controlador.selecionouAlgumCheck()}">
    <p:ajax update="pnlOpcoes" />
</h:selectBooleanCheckbox>
<h:outputText escape="false" value="Opção 1 - Ativa se nenhuma estiver ativa" />
<br />

<h:selectBooleanCheckbox value="#{controlador.subOpcao1}" disabled="#{not controlador.opcao1}" />
<h:outputText escape="false" value="Opção ativa somente se a 1 estiver ativa" />
<br />

<h:selectBooleanCheckbox value="#{controlador.opcao2}" disabled="#{controlador.selecionouAlgumCheck()}">
    <p:ajax update="pnlOpcoes" />
</h:selectBooleanCheckbox>
<h:outputText escape="false" value="Opção 2 - Ativa se nenhuma estiver ativa" />
<br />

<h:selectBooleanCheckbox value="#{controlador.subOpcao2}" disabled="#{not controlador.opcao2}">
    <p:ajax update="pnlOpcoes" />
</h:selectBooleanCheckbox>
<h:outputText escape="false" value="Opção ativa somente se a 2 estiver ativa" />
<br />

<h:selectBooleanCheckbox value="#{controlador.opcao3}" disabled="#{controlador.selecionouAlgumCheck()}">
    <p:ajax update="pnlOpcoes" />
</h:selectBooleanCheckbox>
<h:outputText escape="false" value="Opção 3 - Ativa se nenhuma estiver ativa" />
<br />

<h:selectBooleanCheckbox value="#{controlador.opcao4}" disabled="#{controlador.selecionouAlgumCheck() and not controlador.opcao2}">
    <p:ajax update="pnlOpcoes" />
</h:selectBooleanCheckbox>
<h:outputText escape="false" value="Opção 4 - Ativa somente se nenhuma estiver ativa ou se a 2 estiver ativa" /><br />
</h:panelGroup>

<p />

<p:commandButton action="#{controlador.inicializarCheck()}" update="pnlOpcoes" value="Reset" />

No Bean:

private boolean opcao1;
private boolean subOpcao1;

private boolean opcao2;
private boolean subOpcao2;

private boolean opcao3;
private boolean opcao4;

public boolean isOpcao1() {

    return this.opcao1;
}

public void setOpcao1(boolean opcao1) {

    this.inicializarCheck();
    this.opcao1 = opcao1;
}

public boolean isSubOpcao1() {

    return this.subOpcao1;
}

public void setSubOpcao1(boolean subOpcao1) {

    this.subOpcao1 = subOpcao1;
}

public boolean isOpcao2() {

    return this.opcao2;
}

public void setOpcao2(boolean opcao2) {

    this.inicializarCheck();
    this.opcao2 = opcao2;
}

public boolean isSubOpcao2() {

    return this.subOpcao2;
}

public void setSubOpcao2(boolean subOpcao2) {

    this.subOpcao2 = subOpcao2;
}

public boolean isOpcao3() {

    return this.opcao3;
}

public void setOpcao3(boolean opcao3) {

    this.inicializarCheck();
    this.opcao3 = opcao3;
}

public boolean isOpcao4() {

    return this.opcao4;
}

public void setOpcao4(boolean opcao4) {

    boolean opcao2 = this.opcao2;
    boolean subOpcao2 = this.subOpcao2;
    this.inicializarCheck();
    this.opcao4 = opcao4;
    this.opcao2 = opcao2;
    this.subOpcao2 = subOpcao2;
}

public void inicializarCheck() {
    this.opcao1 = false;
    this.subOpcao1 = false;
    this.opcao2 = false;
    this.subOpcao2 = false;
    this.opcao3 = false;
    this.opcao4 = false;
}

public boolean selecionouAlgumCheck() {
    return this.opcao1 || this.opcao2 || this.opcao3 || this.opcao4;
}

Another solution, using the enable / disable implementation in groups.

InXHTML:

<p:toolbarid="colunas" style="margin-top: 20px">
    <p:toolbarGroup>
        <h:selectBooleanCheckbox value="#{controlador.colunaId}" disabled="#{controlador.groupByCLiente || controlador.groupByCondicaoTempo}">
            <p:ajax update="colunas" />
        </h:selectBooleanCheckbox>
        <h:outputText value="Cód." />

        <h:selectBooleanCheckbox value="#{controlador.colunaCliente}">
            <p:ajax update="colunas" />
        </h:selectBooleanCheckbox>
        <h:outputText value="Cliente" />

        <h:selectBooleanCheckbox value="#{controlador.colunaCondutor}" disabled="#{controlador.groupByCLiente || controlador.groupByCondicaoTempo}">
            <p:ajax update="colunas" />
        </h:selectBooleanCheckbox>
        <h:outputText value="Condutor" />

        <h:selectBooleanCheckbox value="#{controlador.colunaCondicaoTempo}" disabled="#{controlador.groupByCLiente}">
            <p:ajax update="colunas" />
        </h:selectBooleanCheckbox>
        <h:outputText value="Cond. Tempo" />

        <h:selectBooleanCheckbox value="#{controlador.colunaOcorrencia}" disabled="#{controlador.groupByCLiente || controlador.groupByCondicaoTempo}">
            <p:ajax update="colunas" />
        </h:selectBooleanCheckbox>
        <h:outputText value="Ocorrência" />

        <h:selectBooleanCheckbox value="#{controlador.colunaStatus}" disabled="#{controlador.groupByCLiente || controlador.groupByCondicaoTempo}">
            <p:ajax update="colunas" />
        </h:selectBooleanCheckbox>
        <h:outputText value="Status" />

        <h:selectBooleanCheckbox value="#{controlador.colunaPeriodo}" disabled="#{controlador.groupByCLiente || controlador.groupByCondicaoTempo}">
            <p:ajax update="colunas" />
        </h:selectBooleanCheckbox>
        <h:outputText value="Período" />

        <h:selectBooleanCheckbox value="#{controlador.colunaSoma}" disabled="#{controlador.groupByCLiente || controlador.groupByCondicaoTempo}">
            <p:ajax update="colunas" />
        </h:selectBooleanCheckbox>
        <h:outputText value="Soma" />

        <h:selectBooleanCheckbox value="#{controlador.colunaQtdCli}">
            <p:ajax update="colunas" />
        </h:selectBooleanCheckbox>
        <h:outputText value="QtdCli" />

        <h:selectBooleanCheckbox value="#{controlador.colunaQtdCond}">
            <p:ajax update="colunas" />
        </h:selectBooleanCheckbox>
        <h:outputText value="Qtd Cond Temp." />
    </p:toolbarGroup>
</p:toolbar>

<p:toolbar style="margin-top: 20px">
    <p:toolbarGroup>
        <h:selectBooleanCheckbox value="#{controlador.groupByCLiente}">
            <p:ajax update="colunas" />
            <h:outputText value="Cliente" />
        </h:selectBooleanCheckbox>

        <h:selectBooleanCheckbox value="#{controlador.groupByCondicaoTempo}">
            <p:ajax update="colunas" />
            <h:outputText value="Condição" />
        </h:selectBooleanCheckbox>
    </p:toolbarGroup>
</p:toolbar>

No Bean:

private boolean colunaId = false,
                colunaCliente = false,
                colunaCondutor = false,
                colunaPeriodo = false,
                colunaCondicaoTempo = false,
                colunaStatus = false,
                colunaOcorrencia = false,
                colunaSoma = false,
                colunaQtdCond = false,
                colunaQtdCli = false,
                groupByCLiente = false,
                groupByCondicaoTempo = false;

public boolean getColunaId() {
    return this.colunaId;
}

public void setColunaId(boolean colunaId) {
    this.colunaId = colunaId;
}

public boolean getColunaCliente() {
    return this.colunaCliente;
}

public void setColunaCliente(boolean colunaCliente) {
    this.colunaCliente = colunaCliente;
}

public boolean getColunaCondutor() {
    return this.colunaCondutor;
}

public void setColunaCondutor(boolean colunaCondutor) {
    this.colunaCondutor = colunaCondutor;
}

public boolean getColunaPeriodo() {
    return this.colunaPeriodo;
}

public void setColunaPeriodo(boolean colunaPeriodo) {
    this.colunaPeriodo = colunaPeriodo;
}

public boolean getColunaCondicaoTempo() {
    return this.colunaCondicaoTempo;
}

public void setColunaCondicaoTempo(boolean colunaCondicaoTempo) {
    this.colunaCondicaoTempo = colunaCondicaoTempo;
}

public boolean getColunaStatus() {
    return this.colunaStatus;
}

public void setColunaStatus(boolean colunaStatus) {
    this.colunaStatus = colunaStatus;
}

public boolean getColunaOcorrencia() {
    return this.colunaOcorrencia;
}

public void setColunaOcorrencia(boolean colunaOcorrencia) {
    this.colunaOcorrencia = colunaOcorrencia;
}

public boolean getColunaSoma() {
    return this.colunaSoma;
}

public void setColunaSoma(boolean colunaSoma) {
    this.colunaSoma = colunaSoma;
}

public boolean getColunaQtdCond() {
    return this.colunaQtdCond;
}

public void setColunaQtdCond(boolean colunaQtdCond) {
    this.colunaQtdCond = colunaQtdCond;
}

public boolean getColunaQtdCli() {
    return this.colunaQtdCli;
}

public void setColunaQtdCli(boolean colunaQtdCli) {
    this.colunaQtdCli = colunaQtdCli;
}

public boolean getGroupByCLiente() {
    return this.groupByCLiente;
}

public void setGroupByCLiente(boolean groupByCLiente) {
    this.groupByCLiente = groupByCLiente;
    this.resetByCliente(false);
}

public boolean getGroupByCondicaoTempo() {
    return this.groupByCondicaoTempo;
}

public void setGroupByCondicaoTempo(boolean groupByCondicaoTempo) {
    this.groupByCondicaoTempo = groupByCondicaoTempo;
    this.resetByCondicaoTempo(false);
}

public void resetByCliente(boolean valor) {
    this.colunaId = valor;
    this.colunaCondutor = valor;
    this.colunaCondicaoTempo = valor;
    this.colunaOcorrencia = valor;
    this.colunaStatus = valor;
    this.colunaPeriodo = valor;
    this.colunaSoma = valor;
}

public void resetByCondicaoTempo(boolean valor) {
    this.colunaId = valor;
    this.colunaCondutor = valor;
    this.colunaOcorrencia = valor;
    this.colunaStatus = valor;
    this.colunaPeriodo = valor;
    this.colunaSoma = valor;
}