ScoDoc-PE/app/scodoc/sco_synchro_etuds.py

886 lines
34 KiB
Python
Raw Normal View History

2020-09-26 16:19:37 +02:00
# -*- mode: python -*-
# -*- coding: utf-8 -*-
##############################################################################
#
# Gestion scolarite IUT
#
2022-01-01 14:49:42 +01:00
# Copyright (c) 1999 - 2022 Emmanuel Viennet. All rights reserved.
2020-09-26 16:19:37 +02:00
#
# This program is free software; you can redistribute it and/or modify
# it under the terms of the GNU General Public License as published by
# the Free Software Foundation; either version 2 of the License, or
# (at your option) any later version.
#
# This program is distributed in the hope that it will be useful,
# but WITHOUT ANY WARRANTY; without even the implied warranty of
# MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the
# GNU General Public License for more details.
#
# You should have received a copy of the GNU General Public License
# along with this program; if not, write to the Free Software
# Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA
#
# Emmanuel Viennet emmanuel.viennet@viennet.net
#
##############################################################################
"""Synchronisation des listes d'étudiants avec liste portail (Apogée)
"""
2020-12-26 00:11:55 +01:00
import time
2021-07-09 23:19:30 +02:00
from operator import itemgetter
2020-09-26 16:19:37 +02:00
from flask import g, url_for
2021-09-02 18:05:22 +02:00
from flask_login import current_user
2021-08-16 08:33:12 +02:00
2022-04-12 17:12:51 +02:00
from app import log
from app.models import ScolarNews
import app.scodoc.sco_utils as scu
import app.scodoc.notesdb as ndb
from app.scodoc import html_sco_header
2021-07-19 19:53:01 +02:00
from app.scodoc import sco_cache
from app.scodoc import sco_formsemestre
from app.scodoc import sco_formsemestre_inscriptions
from app.scodoc import sco_groups
from app.scodoc import sco_inscr_passage
from app.scodoc import sco_portal_apogee
from app.scodoc import sco_etud
from app.scodoc.sco_exceptions import ScoValueError
from app.scodoc.sco_permissions import Permission
2020-09-26 16:19:37 +02:00
# Clés utilisées pour la synchro
EKEY_APO = "nip"
EKEY_SCO = "code_nip"
EKEY_NAME = "code NIP"
2021-09-02 18:05:22 +02:00
# view:
2020-09-26 16:19:37 +02:00
def formsemestre_synchro_etuds(
formsemestre_id,
etuds=[], # liste des codes NIP des etudiants a inscrire (ou deja inscrits)
inscrits_without_key=[], # codes etudid des etudiants sans code NIP a laisser inscrits
anneeapogee=None,
submitted=False,
dialog_confirmed=False,
export_cat_xls=None,
read_only=False, # Affiche sans permettre modifications
):
"""Synchronise les étudiants de ce semestre avec ceux d'Apogée.
On a plusieurs cas de figure: L'étudiant peut être
1- présent dans Apogée et inscrit dans le semestre ScoDoc (etuds_ok)
2- dans Apogée, dans ScoDoc, mais pas inscrit dans le semestre (etuds_noninscrits)
3- dans Apogée et pas dans ScoDoc (a_importer)
4- inscrit dans le semestre ScoDoc, mais pas trouvé dans Apogée (sur la base du code NIP)
2020-09-26 16:19:37 +02:00
Que faire ?
Cas 1: rien à faire
Cas 2: inscrire dans le semestre
Cas 3: importer l'étudiant (le créer)
puis l'inscrire à ce semestre.
Cas 4: lister les etudiants absents d'Apogée (indiquer leur code NIP...)
- présenter les différents cas
- l'utilisateur valide (cocher les étudiants à importer/inscrire)
- go
2021-09-02 18:05:22 +02:00
etuds: apres sélection par l'utilisateur, la liste des étudiants selectionnés
2020-09-26 16:19:37 +02:00
que l'on va importer/inscrire
"""
2022-08-26 08:22:07 +02:00
log(f"formsemestre_synchro_etuds: formsemestre_id={formsemestre_id}")
2021-08-19 10:28:35 +02:00
sem = sco_formsemestre.get_formsemestre(formsemestre_id)
2020-09-26 16:19:37 +02:00
sem["etape_apo_str"] = sco_formsemestre.formsemestre_etape_apo_str(sem)
# Write access ?
2021-09-02 18:05:22 +02:00
if not current_user.has_permission(Permission.ScoEtudInscrit):
2020-09-26 16:19:37 +02:00
read_only = True
if read_only:
submitted = False
dialog_confirmed = False
# -- check lock
2021-08-10 12:57:38 +02:00
if not sem["etat"]:
2020-09-26 16:19:37 +02:00
raise ScoValueError("opération impossible: semestre verrouille")
if not sem["etapes"]:
raise ScoValueError(
"""opération impossible: ce semestre n'a pas de code étape
2021-05-11 11:48:32 +02:00
(voir "<a href="formsemestre_editwithmodules?formation_id=%(formation_id)s&formsemestre_id=%(formsemestre_id)s">Modifier ce semestre</a>")
2020-09-26 16:19:37 +02:00
"""
% sem
)
header = html_sco_header.sco_header(page_title="Synchronisation étudiants")
footer = html_sco_header.sco_footer()
2021-09-02 18:05:22 +02:00
base_url = url_for(
"notes.formsemestre_synchro_etuds",
scodoc_dept=g.scodoc_dept,
formsemestre_id=formsemestre_id,
2021-09-02 18:05:22 +02:00
anneeapogee=anneeapogee or None, # si None, le param n'est pas dans l'URL
)
2020-09-26 16:19:37 +02:00
2021-08-21 15:17:14 +02:00
if anneeapogee is None: # année d'inscription par défaut
anneeapogee = scu.annee_scolaire_debut(
sem["annee_debut"], sem["mois_debut_ord"]
2020-09-26 16:19:37 +02:00
)
2021-08-21 15:17:14 +02:00
anneeapogee = str(anneeapogee)
2020-09-26 16:19:37 +02:00
if isinstance(etuds, str):
2020-09-26 16:19:37 +02:00
etuds = etuds.split(",") # vient du form de confirmation
elif isinstance(etuds, int):
etuds = [etuds]
if isinstance(inscrits_without_key, int):
inscrits_without_key = [inscrits_without_key]
elif isinstance(inscrits_without_key, str):
2020-09-26 16:19:37 +02:00
inscrits_without_key = inscrits_without_key.split(",")
elif not isinstance(inscrits_without_key, list):
raise ValueError("invalid type for inscrits_without_key")
2021-09-27 13:43:11 +02:00
inscrits_without_key = [int(x) for x in inscrits_without_key if x]
2020-09-26 16:19:37 +02:00
(
etuds_by_cat,
a_importer,
a_inscrire,
inscrits_set,
inscrits_without_key_all,
etudsapo_ident,
) = list_synch(sem, anneeapogee=anneeapogee)
2020-09-26 16:19:37 +02:00
if export_cat_xls:
filename = export_cat_xls
xls = build_page(
sem,
etuds_by_cat,
anneeapogee,
export_cat_xls=export_cat_xls,
base_url=base_url,
read_only=read_only,
)
return scu.send_file(
2021-09-02 18:05:22 +02:00
xls,
mime=scu.XLS_MIMETYPE,
filename=filename,
suffix=scu.XLSX_SUFFIX,
2021-09-02 18:05:22 +02:00
)
2020-09-26 16:19:37 +02:00
H = [header]
if not submitted:
H += build_page(
sem,
etuds_by_cat,
anneeapogee,
base_url=base_url,
read_only=read_only,
)
else:
etuds_set = set(etuds)
a_importer = a_importer.intersection(etuds_set)
a_desinscrire = inscrits_set - etuds_set
log("inscrits_without_key_all=%s" % set(inscrits_without_key_all))
log("inscrits_without_key=%s" % inscrits_without_key)
a_desinscrire_without_key = set(inscrits_without_key_all) - set(
inscrits_without_key
)
log("a_desinscrire_without_key=%s" % a_desinscrire_without_key)
inscrits_ailleurs = set(sco_inscr_passage.list_inscrits_date(sem))
2020-09-26 16:19:37 +02:00
a_inscrire = a_inscrire.intersection(etuds_set)
if not dialog_confirmed:
# Confirmation
if a_importer:
2022-08-26 08:22:07 +02:00
H.append("<h3>Étudiants à importer et inscrire :</h3><ol>")
2020-09-26 16:19:37 +02:00
for key in a_importer:
2022-08-26 08:22:07 +02:00
nom = f"""{etudsapo_ident[key]['nom']} {etudsapo_ident[key].get("prenom", "")}"""
H.append(f"<li>{nom}</li>")
2020-09-26 16:19:37 +02:00
H.append("</ol>")
if a_inscrire:
2022-08-26 08:22:07 +02:00
H.append("<h3>Étudiants à inscrire :</h3><ol>")
2020-09-26 16:19:37 +02:00
for key in a_inscrire:
2022-08-26 08:22:07 +02:00
nom = f"""{etudsapo_ident[key]['nom']} {etudsapo_ident[key].get("prenom", "")}"""
H.append(f"<li>{nom}</li>")
2020-09-26 16:19:37 +02:00
H.append("</ol>")
a_inscrire_en_double = inscrits_ailleurs.intersection(a_inscrire)
if a_inscrire_en_double:
H.append("<h3>dont étudiants déjà inscrits:</h3><ol>")
for key in a_inscrire_en_double:
2022-08-26 08:22:07 +02:00
nom = f"""{etudsapo_ident[key]['nom']} {etudsapo_ident[key].get("prenom", "")}"""
H.append(f'<li class="inscrailleurs">{nom}</li>')
2020-09-26 16:19:37 +02:00
H.append("</ol>")
if a_desinscrire:
2022-08-26 08:22:07 +02:00
H.append("<h3>Étudiants à désinscrire :</h3><ol>")
2020-09-26 16:19:37 +02:00
for key in a_desinscrire:
2021-08-22 13:24:36 +02:00
etud = sco_etud.get_etud_info(filled=True, code_nip=key)[0]
2020-09-26 16:19:37 +02:00
H.append('<li class="desinscription">%(nomprenom)s</li>' % etud)
H.append("</ol>")
if a_desinscrire_without_key:
2022-08-26 08:22:07 +02:00
H.append("<h3>Étudiants à désinscrire (sans code):</h3><ol>")
2020-09-26 16:19:37 +02:00
for etudid in a_desinscrire_without_key:
etud = inscrits_without_key_all[etudid]
sco_etud.format_etud_ident(etud)
2020-09-26 16:19:37 +02:00
H.append('<li class="desinscription">%(nomprenom)s</li>' % etud)
H.append("</ol>")
todo = (
a_importer or a_inscrire or a_desinscrire or a_desinscrire_without_key
)
if not todo:
2020-09-26 16:19:37 +02:00
H.append("""<h3>Il n'y a rien à modifier !</h3>""")
H.append(
scu.confirm_dialog(
2020-09-26 16:19:37 +02:00
dest_url="formsemestre_synchro_etuds",
add_headers=False,
cancel_url="formsemestre_synchro_etuds?formsemestre_id="
2021-08-10 17:12:10 +02:00
+ str(formsemestre_id),
OK="Effectuer l'opération" if todo else "OK",
2020-09-26 16:19:37 +02:00
parameters={
"formsemestre_id": formsemestre_id,
"etuds": ",".join(etuds),
"inscrits_without_key": ",".join(
[str(x) for x in inscrits_without_key]
),
2020-09-26 16:19:37 +02:00
"submitted": 1,
"anneeapogee": anneeapogee,
},
)
)
else:
# OK, do it
# Conversions des listes de codes NIP en listes de codes etudid
def nip2etudid(code_nip):
etud = sco_etud.get_etud_info(code_nip=code_nip)[0]
2020-09-26 16:19:37 +02:00
return etud["etudid"]
etudids_a_inscrire = [nip2etudid(x) for x in a_inscrire]
etudids_a_desinscrire = [nip2etudid(x) for x in a_desinscrire]
etudids_a_desinscrire += a_desinscrire_without_key
#
2022-05-04 20:26:45 +02:00
with sco_cache.DeferredSemCacheManager():
2021-09-02 18:05:22 +02:00
do_import_etuds_from_portal(sem, a_importer, etudsapo_ident)
sco_inscr_passage.do_inscrit(sem, etudids_a_inscrire)
sco_inscr_passage.do_desinscrit(sem, etudids_a_desinscrire)
2020-09-26 16:19:37 +02:00
H.append(
"""<h3>Opération effectuée</h3>
<ul>
<li><a class="stdlink" href="formsemestre_synchro_etuds?formsemestre_id=%s">Continuer la synchronisation</a></li>"""
% formsemestre_id
)
#
partitions = sco_groups.get_partitions_list(
2021-08-19 10:28:35 +02:00
formsemestre_id, with_default=False
2020-09-26 16:19:37 +02:00
)
if partitions: # il y a au moins une vraie partition
H.append(
2021-08-16 08:33:12 +02:00
f"""<li><a class="stdlink" href="{
url_for("scolar.affect_groups",
2021-08-16 08:33:12 +02:00
scodoc_dept=g.scodoc_dept,
partition_id=partitions[0]["partition_id"]
)}">Répartir les groupes de {partitions[0]["partition_name"]}</a></li>
2020-09-26 16:19:37 +02:00
"""
)
H.append(footer)
return "\n".join(H)
def build_page(
sem,
etuds_by_cat,
anneeapogee,
export_cat_xls=None,
base_url="",
read_only=False,
):
if export_cat_xls:
return sco_inscr_passage.etuds_select_boxes(
etuds_by_cat, export_cat_xls=export_cat_xls, base_url=base_url
2020-09-26 16:19:37 +02:00
)
year = time.localtime()[0]
if anneeapogee and abs(year - int(anneeapogee)) < 50:
2021-07-09 17:47:06 +02:00
years = list(
range(min(year - 1, int(anneeapogee) - 1), max(year, int(anneeapogee)) + 1)
2020-09-26 16:19:37 +02:00
)
else:
2021-07-09 17:47:06 +02:00
years = list(range(year - 1, year + 1))
2020-09-26 16:19:37 +02:00
anneeapogee = ""
options = []
for y in years:
if str(y) == anneeapogee:
sel = "selected"
else:
sel = ""
options.append('<option value="%s" %s>%s</option>' % (str(y), sel, str(y)))
if anneeapogee:
sel = ""
else:
sel = "selected"
options.append('<option value="" %s>toutes</option>' % sel)
# sem['etape_apo_str'] = sem['etape_apo'] or '-'
H = [
"""<h2 class="formsemestre">Synchronisation des étudiants du semestre avec Apogée</h2>""",
"""<p>Actuellement <b>%d</b> inscrits dans ce semestre.</p>"""
% (
len(etuds_by_cat["etuds_ok"]["etuds"])
+ len(etuds_by_cat["etuds_nonapogee"]["etuds"])
+ len(etuds_by_cat["inscrits_without_key"]["etuds"])
),
"""<p>Code étape Apogée: %(etape_apo_str)s</p>
<form method="post" action="formsemestre_synchro_etuds">
"""
% sem,
"""
Année Apogée: <select id="anneeapogee" name="anneeapogee"
onchange="document.location='formsemestre_synchro_etuds?formsemestre_id=%s&anneeapogee='+document.getElementById('anneeapogee').value">"""
2020-09-26 16:19:37 +02:00
% (sem["formsemestre_id"]),
"\n".join(options),
"""
</select>
""",
""
if read_only
else """
<input type="hidden" name="formsemestre_id" value="%(formsemestre_id)s"/>
<input type="submit" name="submitted" value="Appliquer les modifications"/>
&nbsp;<a href="#help">aide</a>
"""
% sem, # "
sco_inscr_passage.etuds_select_boxes(
etuds_by_cat,
sel_inscrits=False,
show_empty_boxes=True,
base_url=base_url,
read_only=read_only,
),
""
if read_only
else """<p/><input type="submit" name="submitted" value="Appliquer les modifications"/>""",
formsemestre_synchro_etuds_help(sem),
2020-09-26 16:19:37 +02:00
"""</form>""",
]
return H
def list_synch(sem, anneeapogee=None):
""""""
inscrits = sco_inscr_passage.list_inscrits(sem["formsemestre_id"], with_dems=True)
2020-09-26 16:19:37 +02:00
# Tous les ensembles d'etudiants sont ici des ensembles de codes NIP (voir EKEY_SCO)
# (sauf inscrits_without_key)
inscrits_set = set()
inscrits_without_key = {} # etudid : etud sans code NIP
for e in inscrits.values():
if not e[EKEY_SCO]:
inscrits_without_key[e["etudid"]] = e
e["inscrit"] = True # checkbox state
else:
inscrits_set.add(e[EKEY_SCO])
# allinscrits_set = set() # tous les inscrits scodoc avec code_nip, y compris les demissionnaires
# for e in inscrits.values():
# if e[EKEY_SCO]:
# allinscrits_set.add(e[EKEY_SCO])
datefinalisationinscription_by_NIP = {} # nip : datefinalisationinscription_str
etapes = sem["etapes"]
etudsapo_set = set()
etudsapo_ident = {}
for etape in etapes:
if etape:
etudsapo = sco_portal_apogee.get_inscrits_etape(
2021-08-20 10:51:42 +02:00
etape, anneeapogee=anneeapogee
2020-09-26 16:19:37 +02:00
)
etudsapo_set = etudsapo_set.union(set([x[EKEY_APO] for x in etudsapo]))
for e in etudsapo:
if e[EKEY_APO] not in etudsapo_ident:
etudsapo_ident[e[EKEY_APO]] = e
datefinalisationinscription_by_NIP[e[EKEY_APO]] = e[
"datefinalisationinscription"
]
# categories:
etuds_ok = etudsapo_set.intersection(inscrits_set)
etuds_aposco, a_importer, key2etudid = list_all(etudsapo_set)
2020-09-26 16:19:37 +02:00
etuds_noninscrits = etuds_aposco - inscrits_set
etuds_nonapogee = inscrits_set - etudsapo_set
# Etudiants ayant payé (avec balise <paiementinscription> true)
# note: si le portail ne renseigne pas cette balise, suppose que paiement ok
etuds_payes = set(
[x[EKEY_APO] for x in etudsapo if x.get("paiementinscription", True)]
)
#
2021-06-15 13:59:56 +02:00
cnx = ndb.GetDBConnexion()
2020-09-26 16:19:37 +02:00
# Tri listes
def set_to_sorted_list(etudset, etud_apo=False, is_inscrit=False):
def key2etud(key, etud_apo=False):
if not etud_apo:
etudid = key2etudid[key]
2021-09-13 22:10:01 +02:00
etuds = sco_etud.identite_list(cnx, {"etudid": etudid})
if not etuds: # ? cela ne devrait pas arriver XXX
2021-09-13 22:10:01 +02:00
log(f"XXX key2etud etudid={{etudid}}, type {{type(etudid)}}")
etud = etuds[0]
2020-09-26 16:19:37 +02:00
etud["inscrit"] = is_inscrit # checkbox state
etud[
"datefinalisationinscription"
] = datefinalisationinscription_by_NIP.get(key, None)
if key in etudsapo_ident:
etud["etape"] = etudsapo_ident[key].get("etape", "")
else:
# etudiant Apogee
etud = etudsapo_ident[key]
etud["etudid"] = ""
etud["civilite"] = etud.get(
2020-09-26 16:19:37 +02:00
"sexe", etud.get("gender", "")
) # la cle 'sexe' est prioritaire sur 'gender'
etud["inscrit"] = is_inscrit # checkbox state
if key in etuds_payes:
etud["paiementinscription"] = True
else:
etud["paiementinscription"] = False
return etud
etuds = [key2etud(x, etud_apo) for x in etudset]
2021-07-10 13:58:25 +02:00
etuds.sort(key=itemgetter("nom"))
2020-09-26 16:19:37 +02:00
return etuds
#
boites = {
"etuds_a_importer": {
"etuds": set_to_sorted_list(a_importer, is_inscrit=True, etud_apo=True),
2020-09-26 16:19:37 +02:00
"infos": {
"id": "etuds_a_importer",
"title": "Etudiants dans Apogée à importer",
"help": """Ces étudiants sont inscrits dans cette étape Apogée mais ne sont pas connus par ScoDoc:
cocher les noms à importer et inscrire puis appuyer sur le bouton "Appliquer".""",
2020-09-26 16:19:37 +02:00
"title_target": "",
"with_checkbox": True,
"etud_key": EKEY_APO, # clé à stocker dans le formulaire html
"filename": "etuds_a_importer",
2020-09-26 16:19:37 +02:00
},
"nomprenoms": etudsapo_ident,
2020-09-26 16:19:37 +02:00
},
"etuds_noninscrits": {
"etuds": set_to_sorted_list(etuds_noninscrits, is_inscrit=True),
"infos": {
"id": "etuds_noninscrits",
"title": "Etudiants non inscrits dans ce semestre",
"help": """Ces étudiants sont déjà connus par ScoDoc, sont inscrits dans cette étape Apogée mais ne sont pas inscrits à ce semestre ScoDoc. Cochez les étudiants à inscrire.""",
"comment": """ dans ScoDoc et Apogée, <br/>mais pas inscrits
dans ce semestre""",
"title_target": "",
"with_checkbox": True,
"etud_key": EKEY_SCO,
"filename": "etuds_non_inscrits",
2020-09-26 16:19:37 +02:00
},
},
"etuds_nonapogee": {
"etuds": set_to_sorted_list(etuds_nonapogee, is_inscrit=True),
"infos": {
"id": "etuds_nonapogee",
"title": "Etudiants ScoDoc inconnus dans cette étape Apogée",
"help": """Ces étudiants sont inscrits dans ce semestre ScoDoc, ont un code NIP, mais ne sont pas inscrits dans cette étape Apogée. Soit ils sont en retard pour leur inscription, soit il s'agit d'une erreur: vérifiez avec le service Scolarité de votre établissement. Autre possibilité: votre code étape semestre (%s) est incorrect ou vous n'avez pas choisi la bonne année d'inscription."""
% sem["etape_apo_str"],
"comment": " à vérifier avec la Scolarité",
"title_target": "",
"with_checkbox": True,
"etud_key": EKEY_SCO,
"filename": "etuds_non_apogee",
2020-09-26 16:19:37 +02:00
},
},
"inscrits_without_key": {
2021-07-09 17:47:06 +02:00
"etuds": list(inscrits_without_key.values()),
2020-09-26 16:19:37 +02:00
"infos": {
"id": "inscrits_without_key",
"title": "Etudiants ScoDoc sans clé Apogée (NIP)",
"help": """Ces étudiants sont inscrits dans ce semestre ScoDoc, mais n'ont pas de code NIP: on ne peut pas les mettre en correspondance avec Apogée. Utiliser le lien 'Changer les données identité' dans le menu 'Etudiant' sur leur fiche pour ajouter cette information.""",
"title_target": "",
"with_checkbox": True,
"checkbox_name": "inscrits_without_key",
"filename": "inscrits_without_key",
},
},
"etuds_ok": {
"etuds": set_to_sorted_list(etuds_ok, is_inscrit=True),
"infos": {
"id": "etuds_ok",
"title": "Etudiants dans Apogée et déjà inscrits",
"help": """Ces etudiants sont inscrits dans le semestre ScoDoc et sont présents dans Apogée:
tout est donc correct. Décocher les étudiants que vous souhaitez désinscrire.""",
"title_target": "",
"with_checkbox": True,
"etud_key": EKEY_SCO,
"filename": "etuds_inscrits_ok_apo",
2020-09-26 16:19:37 +02:00
},
},
}
return (
boites,
2020-09-26 16:19:37 +02:00
a_importer,
etuds_noninscrits,
inscrits_set,
inscrits_without_key,
etudsapo_ident,
)
def list_all(etudsapo_set):
2020-09-26 16:19:37 +02:00
"""Cherche le sous-ensemble des etudiants Apogee de ce semestre
qui existent dans ScoDoc.
"""
# on charge TOUS les etudiants (au pire qq 100000 ?)
# si tres grosse base, il serait mieux de faire une requete
# d'interrogation par etudiant.
2021-06-15 13:59:56 +02:00
cnx = ndb.GetDBConnexion()
cursor = cnx.cursor(cursor_factory=ndb.ScoDocCursor)
2021-09-13 22:10:01 +02:00
cursor.execute(
"SELECT "
+ EKEY_SCO
+ """, id AS etudid
2021-09-13 23:16:02 +02:00
FROM identite WHERE dept_id=%(dept_id)s
2021-09-13 22:10:01 +02:00
""",
{"dept_id": g.scodoc_dept_id},
2021-09-13 22:10:01 +02:00
)
2020-09-26 16:19:37 +02:00
key2etudid = dict([(x[0], x[1]) for x in cursor.fetchall()])
all_set = set(key2etudid.keys())
# ne retient que ceux dans Apo
etuds_aposco = etudsapo_set.intersection(
all_set
) # a la fois dans Apogee et dans ScoDoc
a_importer = etudsapo_set - all_set # dans Apogee, mais inconnus dans ScoDoc
return etuds_aposco, a_importer, key2etudid
def formsemestre_synchro_etuds_help(sem):
sem["default_group_id"] = sco_groups.get_default_group(sem["formsemestre_id"])
2020-09-26 16:19:37 +02:00
return (
"""<div class="pas_help pas_help_left"><h3><a name="help">Explications</a></h3>
<p>Cette page permet d'importer dans le semestre destination
<a class="stdlink"
href="formsemestre_status?formsemestre_id=%(formsemestre_id)s">%(titreannee)s</a>
les étudiants inscrits dans l'étape Apogée correspondante (<b><tt>%(etape_apo_str)s</tt></b>)
</p>
2021-09-02 18:05:22 +02:00
<p>Au départ, tous les étudiants d'Apogée sont sélectionnés; vous pouvez
en déselectionner certains. Tous les étudiants cochés seront inscrits au semestre ScoDoc,
les autres seront si besoin désinscrits. Aucune modification n'est effectuée avant
2020-09-26 16:19:37 +02:00
d'appuyer sur le bouton "Appliquer les modifications".</p>
<h4>Autres fonctions utiles</h4>
<ul>
<li><a href="check_group_apogee?group_id=%(default_group_id)s">vérification
des codes Apogée</a> (des étudiants déjà inscrits)</li>
<li>le <a href="formsemestre_inscr_passage?formsemestre_id=%(formsemestre_id)s">
formulaire de passage</a> qui permet aussi de désinscrire des étudiants
en cas d'erreur, etc.</li>
</ul>
</div>"""
% sem
)
def gender2civilite(gender):
"""Le portail code en 'M', 'F', et ScoDoc en 'M', 'F', 'X'"""
if gender == "M" or gender == "F" or gender == "X":
return gender
elif not gender:
return "X"
log('gender2civilite: invalid value "%s", defaulting to "X"' % gender)
return "X" # "X" en général n'est pas affiché, donc bon choix si invalide
2020-09-26 16:19:37 +02:00
def get_opt_str(etud, k):
v = etud.get(k, None)
if not v:
return v
return v.strip()
2021-09-02 18:05:22 +02:00
def get_annee_naissance(ddmmyyyyy: str) -> int:
"""Extrait l'année de la date stockée en dd/mm/yyyy dans le XML portail"""
2020-09-26 16:19:37 +02:00
if not ddmmyyyyy:
return None
try:
return int(ddmmyyyyy.split("/")[2])
2021-09-02 18:05:22 +02:00
except (ValueError, IndexError):
2020-09-26 16:19:37 +02:00
return None
2021-09-02 18:05:22 +02:00
def do_import_etuds_from_portal(sem, a_importer, etudsapo_ident):
"""Inscrit les etudiants Apogee dans ce semestre."""
2020-09-26 16:19:37 +02:00
log("do_import_etuds_from_portal: a_importer=%s" % a_importer)
if not a_importer:
return
2021-06-15 13:59:56 +02:00
cnx = ndb.GetDBConnexion()
2020-09-26 16:19:37 +02:00
created_etudids = []
try: # --- begin DB transaction
for key in a_importer:
etud = etudsapo_ident[
key
] # on a ici toutes les infos renvoyées par le portail
# Traduit les infos portail en infos pour ScoDoc:
address = etud.get("address", "").strip()
2020-09-26 16:19:37 +02:00
if address[-2:] == "\\n": # certains champs se terminent par \n
address = address[:-2]
2020-09-26 16:19:37 +02:00
args = {
"code_nip": etud["nip"],
2020-09-26 16:19:37 +02:00
"nom": etud["nom"].strip(),
"prenom": etud["prenom"].strip(),
# Les champs suivants sont facultatifs (pas toujours renvoyés par le portail)
"code_ine": etud.get("ine", "").strip(),
"civilite": gender2civilite(etud["gender"].strip()),
"etape": etud.get("etape", None),
"email": etud.get("mail", "").strip(),
"emailperso": etud.get("mailperso", "").strip(),
"date_naissance": etud.get("naissance", "").strip(),
"lieu_naissance": etud.get("ville_naissance", "").strip(),
"dept_naissance": etud.get("code_dep_naissance", "").strip(),
2020-09-26 16:19:37 +02:00
"domicile": address,
"codepostaldomicile": etud.get("postalcode", "").strip(),
"villedomicile": etud.get("city", "").strip(),
"paysdomicile": etud.get("country", "").strip(),
2020-09-26 16:19:37 +02:00
"telephone": etud.get("phone", "").strip(),
"typeadresse": "domicile",
"boursier": etud.get("bourse", None),
"description": "infos portail",
}
2020-09-26 16:19:37 +02:00
# Identite
args["etudid"] = sco_etud.identite_create(cnx, args)
2020-09-26 16:19:37 +02:00
created_etudids.append(args["etudid"])
# Admissions
do_import_etud_admission(cnx, args["etudid"], etud)
2020-09-26 16:19:37 +02:00
# Adresse
sco_etud.adresse_create(cnx, args)
2020-09-26 16:19:37 +02:00
# Inscription au semestre
sco_formsemestre_inscriptions.do_formsemestre_inscription_with_modules(
sem["formsemestre_id"],
args["etudid"],
etat="I",
etape=args["etape"],
2020-09-26 16:19:37 +02:00
method="synchro_apogee",
)
except:
cnx.rollback()
log("do_import_etuds_from_portal: aborting transaction !")
# Nota: db transaction is sometimes partly commited...
# here we try to remove all created students
cursor = cnx.cursor(cursor_factory=ndb.ScoDocCursor)
2020-09-26 16:19:37 +02:00
for etudid in created_etudids:
2022-08-26 08:22:07 +02:00
log(f"do_import_etuds_from_portal: deleting etudid={etudid}")
2020-09-26 16:19:37 +02:00
cursor.execute(
"delete from notes_moduleimpl_inscription where etudid=%(etudid)s",
{"etudid": etudid},
)
cursor.execute(
"delete from notes_formsemestre_inscription where etudid=%(etudid)s",
{"etudid": etudid},
)
cursor.execute(
"delete from scolar_events where etudid=%(etudid)s", {"etudid": etudid}
)
cursor.execute(
"delete from adresse where etudid=%(etudid)s", {"etudid": etudid}
)
cursor.execute(
"delete from admissions where etudid=%(etudid)s", {"etudid": etudid}
)
cursor.execute(
"delete from group_membership where etudid=%(etudid)s",
{"etudid": etudid},
)
cursor.execute(
2021-08-21 15:17:14 +02:00
"delete from identite where id=%(etudid)s", {"etudid": etudid}
2020-09-26 16:19:37 +02:00
)
cnx.commit()
log("do_import_etuds_from_portal: re-raising exception")
2021-06-13 23:37:14 +02:00
# > import: modif identite, adresses, inscriptions
2021-07-19 19:53:01 +02:00
sco_cache.invalidate_formsemestre()
2020-09-26 16:19:37 +02:00
raise
2022-04-12 17:12:51 +02:00
ScolarNews.add(
typ=ScolarNews.NEWS_INSCR,
2022-08-26 08:22:07 +02:00
text=f"Import Apogée de {len(created_etudids)} étudiants en ",
2022-04-12 17:12:51 +02:00
obj=sem["formsemestre_id"],
2022-04-21 14:33:11 +02:00
max_frequency=10 * 60, # 10'
2020-09-26 16:19:37 +02:00
)
def do_import_etud_admission(
cnx, etudid, etud, import_naissance=False, import_identite=False
2020-09-26 16:19:37 +02:00
):
"""Importe les donnees admission pour cet etud.
etud est un dictionnaire traduit du XML portail
"""
annee_courante = time.localtime()[0]
serie_bac, spe_bac = get_bac(etud)
2022-08-26 08:22:07 +02:00
# Les champs n'ont pas les mêmes noms dans Apogee et dans ScoDoc:
2020-09-26 16:19:37 +02:00
args = {
"etudid": etudid,
"annee": get_opt_str(etud, "inscription") or annee_courante,
"bac": serie_bac,
"specialite": spe_bac,
"annee_bac": get_opt_str(etud, "anneebac"),
"codelycee": get_opt_str(etud, "lycee"),
2022-08-26 08:22:07 +02:00
"nomlycee": get_opt_str(etud, "nom_lycee"),
"villelycee": get_opt_str(etud, "ville_lycee"),
"codepostallycee": get_opt_str(etud, "codepostal_lycee"),
2020-09-26 16:19:37 +02:00
"boursier": get_opt_str(etud, "bourse"),
}
# log("do_import_etud_admission: etud=%s" % pprint.pformat(etud))
2022-08-26 08:22:07 +02:00
adm_list = sco_etud.admission_list(cnx, args={"etudid": etudid})
if not adm_list:
sco_etud.admission_create(cnx, args) # -> adm_id
2020-09-26 16:19:37 +02:00
else:
# existing data: merge
2022-08-26 08:22:07 +02:00
adm_info = adm_list[0]
2020-09-26 16:19:37 +02:00
if get_opt_str(etud, "inscription"):
2022-08-26 08:22:07 +02:00
adm_info["annee"] = args["annee"]
2021-07-09 17:47:06 +02:00
keys = list(args.keys())
2020-09-26 16:19:37 +02:00
for k in keys:
if not args[k]:
del args[k]
2022-08-26 08:22:07 +02:00
adm_info.update(args)
sco_etud.admission_edit(cnx, adm_info)
2020-09-26 16:19:37 +02:00
# Traite cas particulier de la date de naissance pour anciens
# etudiants IUTV
if import_naissance and "naissance" in etud:
2020-09-26 16:19:37 +02:00
date_naissance = etud["naissance"].strip()
if date_naissance:
sco_etud.identite_edit_nocheck(
2020-09-26 16:19:37 +02:00
cnx, {"etudid": etudid, "date_naissance": date_naissance}
)
# Reimport des identités
if import_identite:
args = {"etudid": etudid}
# Les champs n'ont pas les mêmes noms dans Apogee et dans ScoDoc:
fields_apo_sco = [
("naissance", "date_naissance"),
("ville_naissance", "lieu_naissance"),
("code_dep_naissance", "dept_naissance"),
("nom", "nom"),
("prenom", "prenom"),
("ine", "code_ine"),
("bourse", "boursier"),
]
for apo_field, sco_field in fields_apo_sco:
x = etud.get(apo_field, "").strip()
if x:
args[sco_field] = x
2020-09-26 16:19:37 +02:00
# Champs spécifiques:
civilite = gender2civilite(etud["gender"].strip())
if civilite:
args["civilite"] = civilite
2020-09-26 16:19:37 +02:00
sco_etud.identite_edit_nocheck(cnx, args)
2020-09-26 16:19:37 +02:00
def get_bac(etud):
bac = get_opt_str(etud, "bac")
if not bac:
return None, None
serie_bac = bac.split("-")[0]
if len(serie_bac) < 8:
spe_bac = bac[len(serie_bac) + 1 :]
else:
serie_bac = bac
spe_bac = None
return serie_bac, spe_bac
def update_etape_formsemestre_inscription(ins, etud):
"""Met à jour l'étape de l'inscription.
Args:
ins (dict): formsemestre_inscription
etud (dict): etudiant portail Apo
"""
if etud["etape"] != ins["etape"]:
ins["etape"] = etud["etape"]
sco_formsemestre_inscriptions.do_formsemestre_inscription_edit(args=ins)
2020-09-26 16:19:37 +02:00
def formsemestre_import_etud_admission(
formsemestre_id, import_identite=True, import_email=False
2020-09-26 16:19:37 +02:00
):
"""Tente d'importer les données admission depuis le portail
2020-09-26 16:19:37 +02:00
pour tous les étudiants du semestre.
Si import_identite==True, recopie l'identité (nom/prenom/sexe/date_naissance)
de chaque étudiant depuis le portail.
N'affecte pas les etudiants inconnus sur le portail.
2020-09-26 16:19:37 +02:00
"""
2021-08-19 10:28:35 +02:00
sem = sco_formsemestre.get_formsemestre(formsemestre_id)
ins = sco_formsemestre_inscriptions.do_formsemestre_inscription_list(
2021-08-19 10:28:35 +02:00
{"formsemestre_id": formsemestre_id}
)
2020-09-26 16:19:37 +02:00
log(
"formsemestre_import_etud_admission: %s (%d etuds)"
% (formsemestre_id, len(ins))
)
no_nip = [] # liste d'etudids sans code NIP
unknowns = [] # etudiants avec NIP mais inconnus du portail
changed_mails = [] # modification d'adresse mails
2021-06-15 13:59:56 +02:00
cnx = ndb.GetDBConnexion()
2020-10-14 12:36:18 +02:00
# Essaie de recuperer les etudiants des étapes, car
# la requete get_inscrits_etape est en général beaucoup plus
# rapide que les requetes individuelles get_etud_apogee
2021-02-03 22:00:41 +01:00
anneeapogee = str(
scu.annee_scolaire_debut(sem["annee_debut"], sem["mois_debut_ord"])
)
2020-10-14 12:36:18 +02:00
apo_etuds = {} # nip : etud apo
for etape in sem["etapes"]:
2021-08-20 10:51:42 +02:00
etudsapo = sco_portal_apogee.get_inscrits_etape(etape, anneeapogee=anneeapogee)
2020-10-14 12:36:18 +02:00
apo_etuds.update({e["nip"]: e for e in etudsapo})
2020-09-26 16:19:37 +02:00
for i in ins:
etudid = i["etudid"]
2021-08-22 13:24:36 +02:00
info = sco_etud.get_etud_info(etudid=etudid, filled=True)[0]
2020-09-26 16:19:37 +02:00
code_nip = info["code_nip"]
if not code_nip:
no_nip.append(etudid)
else:
2020-10-14 12:36:18 +02:00
etud = apo_etuds.get(code_nip)
if not etud:
# pas vu dans les etudiants de l'étape, tente en individuel
2021-08-20 10:51:42 +02:00
etud = sco_portal_apogee.get_etud_apogee(code_nip)
2020-09-26 16:19:37 +02:00
if etud:
update_etape_formsemestre_inscription(i, etud)
2020-09-26 16:19:37 +02:00
do_import_etud_admission(
cnx,
etudid,
etud,
import_naissance=True,
import_identite=import_identite,
)
apo_emailperso = etud.get("mailperso", "")
if info["emailperso"] and not apo_emailperso:
apo_emailperso = info["emailperso"]
if import_email:
if not "mail" in etud:
raise ScoValueError(
"la réponse portail n'a pas le champs requis 'mail'"
)
if (
info["email"] != etud["mail"]
or info["emailperso"] != apo_emailperso
):
sco_etud.adresse_edit(
cnx,
args={
"etudid": etudid,
"adresse_id": info["adresse_id"],
"email": etud["mail"],
"emailperso": apo_emailperso,
},
)
# notifie seulement les changements d'adresse mail institutionnelle
if info["email"] != etud["mail"]:
changed_mails.append((info, etud["mail"]))
2020-09-26 16:19:37 +02:00
else:
unknowns.append(code_nip)
2021-07-19 19:53:01 +02:00
sco_cache.invalidate_formsemestre(formsemestre_id=sem["formsemestre_id"])
2020-09-26 16:19:37 +02:00
return no_nip, unknowns, changed_mails