THESE
Présentée
à
L'UNIVERSITE DE PERPIGNAN
Pour obtenir
LE TITRE DE DOCTEUR EN SCIENCES
(arrêt té Snt84) Spécialité: Mathématiques
par
IJames LOUIS NDOUTOUME
EPI-CONVERGENCE EN CALCUL DIFFERENTIEL GENERALISE
RESULTATS DE CONVERGENCE ET APPROXIMATION
Soutenue Je 24 ovembre 1987 devant la commission d'examen
Président
:M.
J. Paul PENOT, Professeur de l'Université de Pau et des pays de l'Adour
Examinateur
:lv1M Herly ATTOUCH, Professeur à lUniversité de Perpignan
Dominique AZE, Professeur à l'Université de Perpignan
Alain FOUGERES, Professeuf à l'Université de Perpignan
I.-B. HIRIART-URRUTY, Professeuf à l'Université de Toulouse ID
RT. ROCKAFELLAR" Professellf à l'Université de Seattle (USA)
Lionel THIBAULT, Docteur Es sciences, Maître de Conférences à
l'université de Pau

---

RESUME;
Le cacw différentiel généralisé classiape utilise la notion de convergence
ponctuelle, avec bien sûr des adaptations pour chaape domaine d'utilisation
(convergence simple, convergence uniforme sur les bornés, sur les compacts, ...).
Les développements récents en analyse non-linéaire et optimisation ont amené
une rupture par rapport à cette vision classiape. Dans le but d'obtenir une
meilleure interprétation géométrin}le et analytin}le des dérivées directionnelles et
des gradients génératù~ une approche initiée par R.T. Rockafellar a été
d'introduire dans le calcw différentiel généralisé, les thechniapes de l'épi-
convergence. Ce travail est une contribution à cette méthode de différentiation.
- L'objet du premier chapitre est l'extension (non triviale) au cadre de la
dimension infinie du concept de dérivée seconde généralisée au sens de
Rockafellar. Notre approche utilise la théorie des opérateurs maximaux
monotones dans le cadre Hilbertien, laopelle permet d'obtenir assez simplement et
d'une manière élégante, les propriétés géométriapes de l'épi-dérivée directionnelle
du second ordre.
- Dans le second chapitre, nous développons une méthode d'approximation
"différentiable" des problèmes de contrôle d'inéapations variationnelles. Nous en
déduisons des conditions nécessaires d'optimalité du premier ordre utilisant les
outils de différentiation dévêloppés dans le chapitre précédent.
- Le troisième chapitre concerne l'étude de la convergence des suites de
sous-différentiels dans le cas non convexe. Cette apestion importante et délicate,
avec de nombreuses applications en optimisation et contrôle, consiste à étudier
comment une perturbation sur une dérivée directionnelle se répercute sur la suite
de sous-différentiels correspondants.

---

REMERCIEMENTS
Il m'est difficile d'exprimer en peu de mots toute
ma reconnaissance à Monsieur H.Attouch qui,
par son soutien, ses
nombreux conseils et la confiance qu'il a témoignée en mon t~avail,
m'a permis de tirer le meilleur parti
de moi-même pendant ces
trois dernières années.
Je dois également beaucoup à Monsieur J.B.Hiriart-
Urruty, d'abord pour avoir su guider mes premiers pas dans
la re-
cherche mathématique, ensuite pour la grande attention qu'il a por-
tée à ce travail. Il est difficile de dissocier ces remerciements
de ceux que je dois d'une part à Monsieur J.P.Penot pour avoir ac-
cepté si spontanément de participer à mon Jury de Thèse,
d'autre
part à Monsieur L.Thibault pour ses encouragements constants, et
les améliorations qu'il a suggérées.
Je suis redevable à Monsieur D.Azé et A.Fougères.
Qu'ils sachent combien m'ont été précieuses les nombreuses discus-
sions que nous avons eues.
Je remercie Monsieur R.T.Rockafellar pOur avoir ac-
cepté d'examiner ce travail et d'émettre un avis d'expert.
Je remercie enfin Mmes C.Dumazert, S.Marty
et
D.Nicolas pour la dactylographie de ce travail, qu'elles ont as-
surée avec beaucoup de patience et de compétence.

---

TABLE DE$ ~TIERE$
Pages
Introduction
l
Chapitre l
: Calcul différentiel généralisé du second
ordre pour des fonctions convexes.
Introduction
4
1. Rappels et généralités
5
2. Formes quadratiques généralisées convexes
13
3. Dérivée seconde généralisée au sens de Rockafellar
en dimension infinie
21
4. Lien entre la dérivée seconde au sens de Rockafellar
et la dérivée seconde au sens d'Hiriart-Urruty
33
5. Règles de calcul des la dérivée seconde au sens de
Rockafellar
43
Bibliographie
50
Chapitre II
Condition nécessaire d'optimalité du premier
ordre pour des problèmes de contrOle optimal
d'inéquations variationnelles
Introduction
52
1. Rappels et généralités
55
2. Convergence au sens des graphes des suites de dérivées
contingentes
61
3. Condition nécessaire d'optimalité du premier ordre
pour des problèmes de contrOle optimal d'inéquations
variationnelles
79
Bibliographie
91
Chapitre III
Sur la convergence des suites de sous-
différentiels dans le cas non convexe.
Introduction
93
1. Rappels et généralités
96
2. Convergence au sens des graphes des suites de sous-
différentiels dans le cas non convexe
100
3. Lien entre la convergence en graphe d'une suite de
sous-différentiels et l'hypo/épi-convergence des suites
de dérivées directionnelles
109
Bibliographie
120

---

-
l
-
Introduction :
Ce travail s'articule autour des thêmes suivants : Calcul
différentiel généralisé du second ordre pour des fonctions convexes,
approximation de problèmes d'optimisation et contrOle, convergence
des suites de sous-différentiels et des suites de dérivées direc-
tionnelles généralisées, dans le cas non convexe. Ces thèmes ont
été classés par chapitres dans un ordre chronologique.
Dans le chapitre l, on considère H un espace de Hilbert
réel,
F : H --> ~ une fonction convexe s.c.i. propre, et un couple
(x,y)
E 3F C H x H. On définit la fonction
h ~> F~(XIY;h) = épi-lim
.F--'I"X'--'-+--'t"'h"l'----_F"-.<I"x!-)_---=tc.....:<.J.y..!.,"'h".~:....
sup -
2
HO
t
dont on étudie les propriétés géométriques et analytiques. Sous une
hypothèse de régularité de aF au point (x,y), nous montrons que
F;tx,Yi.)
est une forme quadratique généralisée convexe,
et s'ob-
tient comme M:>sco-limite des quotients différentiels
A l ) = .F-'l"'x'--'+c.....:t:....:..-')'----""""'F'-"lx,,-,-l_---=tc...<.:..yL!-,.:.
•.:..>
x , y , t '
-
t2
lorsque t .;. o. Dans ce cas, notant A l'opérateur maximal monotone
dont le graphe coincide avec le cône contingent
(ou de Bouligand)
de aF au point (x,y), on obtient :
F; (x,y,h) == ~ < Aoh,h> , v: h E Dom(A)
a[ F"(x,y,.)l
=
A.
e
A.
désigne ici l'application linéaire symétrique semi-déf~nie
o
positive, définie par :
h - - > A h == proj 0
(l'élément de norme minimale de Ah).
o
Ah
Nous obtenons le même type de résultat lorsque
x,y et t
sont
autorisés à
varier simultanément.
Utilisant une approche parallèle à
celle dlHiriart-Urruty
2
dans (14 J
nous associons à·F~(X,y,.) un objet dual de F(x,y) 1

---

-
2 -
lequel peut être VU comme le sous-différentiel du second ordre de
F au point {x, y) .. ~ous nous attachons à êtabli;r le lien entre le
concept de dérivée seconde généralisée au sens de Rockafellar, et
le concept de dérivée seconde généralisée au Sens d'Hiriart-Urruty ..
A l'aide de plusieurs exemples, nous montrons qulil existe une
classe
assez vaste de fonctions pour lesquelles les deux approches
coïncident.
Dans le second chapitre, nous établissons une condition
nécessaire d'optimalité du premier ordre
(C.N"O.I)
pour des problè-
mes de contrOle optimal d'inéquations variationnelles de la forme
~ : minimiser la fonction
g(yl
+ h(u)
sur llensemble des couples
(u,y)
assujettis à
l'équation d'état
Ay + a" (yl ~ Bu + C
dans laquelle appara1t le sous-différentiel d'une fonction convexe
I(J
:
H - > :IR.
Les méthodes de différentiation du second ordre classiques
(même
généralisées)
ne permettent pas d'établir une C.N.O.I. relative au
problème ~précédent. D'où le recours aux outils de différentiation
développés dans le premier chapitre. C'est ainsi que sous une hypo-
thèse de régularité de dl(J, on mOntre qu'un couple
(y·,u~) est
solution du problème:? s ' i l existe un élément p. tel que
-
A• •
P
-
Dg (y• ) E D a" (
y
. .
,Bu
-
Ay• + fl
p.
D a,,(y•, Bu • -Ay •
où
+ f)
désigne la dérivée contingente de a"
point
. ..
(y , Bu
- Ay.
au
+ f). De plus, p. vérifie
dès lors que les deux assertions suivantes ont lieu
..
.. ..
(q,pl
E D a,,(y
.
(il
,r ) <~>tu EH, 'IvE D a,,(y ,r lu
<: q, U >=<:p,v>
( i i )
"UEU, 3
c(u)
> 0
/
IA(y(ull l "'e(u)
..
A Y
-1-
.
r •
(avec
-
Bu + f) .

---

-
3 -
L'assertion
(1)
précédente, dans le cadre univoque,
revient ~ dire
.. ..
que
D do.p (y
1
r
) se COllFOrte corrme un opérateur linéaire auto-adjomt. D'où
l'idée d'approcher le problème ~par une famille de problèmes
( '" )
de
la forme
"E E > a
~E
minimiser la fonction
g(y)
+ h
(u)
E
sur l'ensemble des couples
(u/y)
assujettis à
l'équation
d'état
Ay + 9<{) E (y)
= Bu + f ,
OÙ OPE (resp.
hE)
est une approximation Moreau-Yosida de op
(resp. h)
c:o
Dans ce cas 1 contrairem=nt au problème :.J 1
11 hypothèse de régularité
sur 9"P
permet d'obtenir directement l'existence d'un élément p
E
E
tel que
= 9h
(YE)'
E
2
A noter que même lorsque op est de classe c
,
les approximations
Moreau-Yosida op
n'ont aucune raison d'être de classe C2 .
E
Nous sommes donc amenés à étudier le problème suivant
Etant données
op
:
H ---> m une fonction convexe s.c.i. propre,
et
(~E)E>O
la famille des approximations Moreau-Yosida de ~, sous
quelles hypothèses la dérivée contingente Dd~ (x,y)
slobtient-elle
comme limite au sens des graphes de la suite des dérivées contin-
gentes
D 9~E(XE' 9~E(XE»)'
lorsque
(XE'
9~(xE») tend vers (x,y) ?
.Le troisième chapitre est un travail effectué en collabora-
tion avec H. Attouch.
Il concerne l'étude de laconvergence des suites
de sous-différentiels dans le cas non convexe
;
plus précisément,
dans le cas des fonctions slécrivant comme somme dlune fonction
convexe et dlune fonction de classe ~
et des
fonctions s'écrivant
comme d~fférence de fonctions convexes. Nous montrons ensuite que
lorsqu'une suite de sous-différentiels converge en graphe,
la notion
correspondante de convergence de la suite associée de dérivées
directionnelles généralisées, est l'hypo/épi-convergence,
une notion
de convergence adaptée aux suites de fonctions de deux variables,
introduite par H. Attouch et R. Wets [6 ]
dans llétude de la stabi-
lité des points selles de fonctions de deux variables.

---

-
4
-
CALCUL DIFFERENTIEL GENERALISE DU SECOND ORDRE
James Louis NDOUTOUME
(Publication AVAMAC)
Université de Perpignan
INTRODUCTION
L10bjet de ce travail est llextension au cadre de
la dimension infinie du concept de -dérivée seconde généralisée,
re-
latif aux fonctions convexes,
introduit par R.T.ROCKAFELLAR dans
11 article [ 20]
Etant donnée une fonction convexe s.c.i
n
-
"
propre f
:m
~m u
{+~},
et
(x,y ) appartenant au graphe du sous-
différentiel
af
de f,
sous une hypothèse de régularité de af au
point x relativement à y. (cf. définition 3-5 [20]), Rockafellar
met en évidence une forme quadratique généralisée convexe
(cf.
dé-
finition 4-3
[20]) obtenue comme épi-limite des quotients diffé-
rentiels
t ( ..
y , . }
A_
..
( • )
x,y , t
lorsque t
tend vers zéro en décroissant.
Ce résultat re~cse sur
le fait que les formes quadratiques généralisées convexes sur~n
sont exactement les fonctions convexes q
: ]Rn -+ lR pour lesquelles
le graphe du sous-différentiel
dq est un sous-espace vectoriel de
Rn x mn (cf. [201
). Dans l'article [20]
cette pro9rLê~é
résul te de considérations
géométriques:
à .. savoir
que le graphe d'un opérateur maximal monotone sur ~n est une va-
riété lipschitzienne; c'est-à-dire qu'il peut être regardé loca-
lement comme le graphe d'une application lipschitzienne. De plus,
cette variété lipschitzienne est de dimension n dans~n x ~n
(cf. proposition 4-1 et théorème 4-)
[20]
).
Nous allons proposer une autre démonstration de ce
résultat,
laquelle s'adapte parfaitement au cadre de la dimension

---

-
5 -
infinie, et permet de donner une écriture explicite de la forme
quadratique généralisée convexe obtenue comme
Mosco-limite des
quotients différentiels A-
•
t(.)
lorsque t
tend vers zéro, sous
X, y
,
_
l'hypothèse de régularité de af au point x relativement
à
•
Y .
Dans la
seconde
partie de ce travail,
nous nous
proposons d'étudier le lien entre la dérivée seconde au sens
d' Hiriart-Urruty [141
,
la dérivée seconde au sens de Rockafellar
[20}
,
et la dérivée tangent et contingent d'opérateurs maximaux
monotones,
introduite par J.P.Aubin dans [4]
. Notre attention
se portera
sur la dérivée seconde au sens d'Hiriart-Urruty, prise
en termes d'épi-limite, laquelle mène aux deux autres concepts de
d~rivée cités plus haut, grace au résultat dû à Attouch [ 1]
sur
le lien entre la convergence au sens de Mosco d'une suite de fonc-
tions convexes,
et la convergence au sens des 9raphes de la suite
d'opérateurs sous-différentiels associée 1 (cf. théorème 3.66 [ 1 ] )
Dans la dernière partie de ce travail, nous éta-
blissons
les règles de calcul qui nous permettent de dét-erminer
la forme quadratique généralisée convexe, obtenue CO~me Mosco-
limite de la suite des quotients différentiels
A
~
(.), lors-
x,y , t
que f
est construite à partir d'autres fonctions convexes plus
-~imples.
1 -
Rappels et Généralités.
Soit H un espace de Hilbert réel muni du pro1uit
scalaire
<,>
et de la norme
\\.1. On considère une fonction con-
vexe,
semi-continue inférieurement
(s.c.i.), propre
(1 +m)
f
: H -+ mu {+<x>}
,
et on note D(f)
l'ensemble des points de H où
f prend une valeur finie.
Pour tout x ED(f),
on appelle dérivée direction-
o
nelle de f
au point x
'
la fonction f' (x '·)
H -+ m définie par
o
o
f lx +th) -f lx )
=
o
0
lim
pour tou t
hEH
il-li
t
tlO

---

-
6
-
Le sous-ensemble
af(x)
défini par:
o
(1-2)
est le sous-différentiel de f
au point xo'
Le graphe de l'opéra-
teur
af est le sous-ensemble dé H x H,
noté G(af),
défini par:
G(Of)
:
~ (x,y)EH x H
/
yE Of(x»)
(1-3)
(Dans la suite,
un opérateur
(multivoque)
sera identifié à son
graphe) .
Définition 1-1
Etant donné
(x,y·)Eof,
suivant J.P.Aubin [4]
et
J.P.Penot {IBl
,
le cône contingent de
af au point
(x,y·)
est le
sous ensemble
de H x H,
noté Kaf(X,y·), défini par:
- - 1
- .
H /
(u,v)Elim paf -
(x,y
)])
(1-4 )
uo
De façon équivalente,
Kaf(i,y~) se définit aussi
comme étant llensemble des couples
(u,v)
vérifiant
af(~
~
+ tw)-
lim dl V,
~
y )= 0
•
( 1- 5)
tH
De même) le cOne tangent de Clarke de
af au point
-
~
-
~
(x,y ~ est le sous-ensemble de H x H,
noté caf (x,
y ), défini par
=
{(u,V)EH x H /
(u,v)~ Hm t [af - (x,y)] )
( 1- 6)
f tTO
dt
._
•
L (x,y)-->~x,y )
oü
(x,y)
~>(x,y~) signifie que (x,y) tend vers (x, y•) en
restant dans le graphe de ôf.
De façon équivalente,
caf (x, y*)
se définit aussi
comme étant l'ensemble des couples
(u,v)
vérifiant

---

-
7 -
1 "
" f d(
,flx+tw}-v
lm sup
ln
v,
t ·
)~ 0
t~O
w+u
(x,y)
, -.
{
f_>(x,y )
c'est-à-dire:
sup inf
sup
inf
dlv"f(X;tW)-y)
= 0
E:>O Ct,B>O
Ix-xJ<et
1w-ul«
1 y-y
1 <a
(x,y)E H
tE]O,B[
On considère toujours
(X,
y*)
dans le graphe du
sous-différentiel
af de f. Pour tout réel t > 0, la fonction
A_
•
(.)
: H +E U {+œ} définie par
x,y , t
= flx+th)-f(X)-t(y',h}
A
•
(h)
2
x r Y , t
t
pour tau t
hEH
1l-B 1
est convexe s.c.i. propre, par conséquent son sous-différentiel
est tel que
oA-
•
(h)
= ~ [,f(x + th) - y*)
x,y ft
t
pour tau t
hEH •
(1-9)
En remarquant que les deux assertions suivantes
sont équivalentes :
1i}
(h,u) E" a A
x, y.
-
, t
(x+th,tu+y.
-
(i i)
)Eaf
avec
On a l'expression suivante du graphe du sous-diffé-
rentiel aA
•
en fonction du graphe du sous-différentiel df :
x,y , t
1
- : i f
=
t [af-Ix,y 1) •
(1-10)
Remarque 1-1.
L'opérateur dont le graphe coïncide avec le cOne
contingent de af au point
(x1Y-)
est appelé dérivée contingent de
af au point (x,y·). Ce concept de dérivée, initié par· J.p.Aubin [4]

---

-
8 -
et J. P. Penot [18}
consiste à étendre l'opération de sous-différen-
tiation de f
à af en regardant le cOne contingent au graphe de af
comme étant le graphe d'un opérateur dérivée.
Il ressort donc ùe
(1-4)
et de
(1-10)
que le cOne
contingent de af au point
.
-
(x,y ) peut s'écrire comme
la limite sUpé-
rieure au sens des graphes de la suite d'opérateurs sous-différen-
tiels dA
•
(.)
lorsque t
tend vers zéro en décroissant.
x, y , t
Cependant sans informa~ion supplémentaire, la dé-
rivée contingent de
af au point (x, y.
-
) ne permet ni d'effectuer
des développements
d'ordre deux de f
au voisinage de X, du type
développement de Taylor,
ni d'exhiber une forme quadratique géné-
ralisée susceptible de jouer un rOle parallèle à celui joué par
2
<V f(x)h,h>
dans le cas de la dérivée seconde au sens de Fréchet.
D'Où l'idée de Rockafellar de poser la définition suivante:
Définition 1-2
- .
Etant
donné
(x,y)Eai,
on dira que
af est régu-
lier au point x relativement à y. si les deux propriétés suivantes
ont lieu
:
Ka f
(x, y.
-
1/
) est un sous espace vectoriel de H )( H •
.
-
2/
Ieof (x,y ) = lim .! [ ai -
-
(x,y")]
(1-11)
UO t
De même,
on dira que
af est strictement régulier
au point x relativement à y* si les deux propriétés suivantes ont
lieu
:
3/
La limite au sens de Kuratowski
(cf. définition 1-31 [1)
) de
(x,y)
tend vers
.
-
Kaf{x,y), lorsque
(x,y ) en restant dans af, existe.
4/
Il existe un voisinage V
de
(x,
y.)
tel que pour tout
(x,y)
x,y •
appartenant ~ af n V
af soit régulier au point x relativement
x,y "
à y.

---

-
9 -
Remarque 1-2
-
:*..
Lorsque le cOne contingent de
af au point (x,y )
- : t
coïncide avec le cOne tangent de
df au même point
(x,y ),
la pro-
riété
(1) de la définition précédente est réalisée, puisque le cOne
tangent au graphe d'un opérateur maximal monotone sur H, en chaque
point du graphe,
est un sous-espace vectoriel de H x H
(cf.
théo-
rème 4-3 [20]
).
Quant à la propriété
(2),
elle traduit simplement
que la suite d10pérateurs sous-différentiels
l
-
•
aA_
•
1.1 = t [Of Ix+t.) -y ]
x,y , t
converge au sens des graphes lorsque t
tend vers zéro en décrois-
sant; c'est-à-dire:
lim aA
= lim
HO
x, y •, t
HO
où
limaA
•
:=((u,v)EHxH/3It)
, l u t , V t )
,
\\1)1>0
t+O
x , y , t
lJ
lJ
lJ
lJ l.l
E af..
..
(Ut) ,
v
1
Vtl.l+
x,y ,tj.l
\\..l
limêli\\
..
:={ (u,v)EHXH., ](ut,V )
Yt>Q
HO
t
x, y , t
U
+
U
V
-+
V
}
t
t
Le théorème classique d'Alexandrov [19]
dit qu'une
fonction convexe à valeurs finies,
définie sur un ouvert convexe
de Rn,
est deux fois Fréchet-dérivable presque partout dans le
sens qu'elle admet un développement du second ordre. Ce résultat
est lié à celui de Mignot
(cf.
théorème 1-3 [17])
selon lequel un
opérateur maximal monotone sur ~n est différentiable presque par-
tout sur l'intérieur de son domaine.
Au regard de la définition
1-2, on ne voit pas
comment
s'interprète
la régularité de
af dans le résultat d'Alexandrov et celui de Mignot cités plus
haut,
de même on ne voit pas immédiatementcomrnent s'interprète la

---

-
10
-
régularité de
af lorsque f est deux fois Fréchet-dérivable.
L'objet de la proposi tian suivante est d'éclaircir ce point en
montrant que lorsque l'opérateur maximal monotone af est diffé-
-
..
rentiahle au point
(x, y )
(cf. Rockafellar [19.]
)
alors ai
est
régulier au point x relativement à y* .
.
proposition 1-1
-
*
Soit
(x,y )E af tel que af soit différentiable au
~point
.
-
(x,y )
; c'est-A-dire
:
i l existe un opérateur L de H dans
H, de graphe linéaire et fermé dans H x H,
pour lequel
(VuEH)
(3 t
>O)l"'ujo,t l '
Of (x+tu)
~ y .
-
+ tL(u)
+ o(t1ul)O
(1-12)
o
. 0
(oü B désigne la boule unité de centre l'origine).
-
..
Alors
af est régulier au point x relativement à y •
Démonstration
Il s'agit de vérifier que la double inclusion sui-
vante a
lieu
-
1[
-
*)
lim t
àf-(x,y)
C L C
L
-
1im t! df-(x,y*)] •
UO
ua
- - 1
-
*
vérifions tout d'abord l'inclusion
lim:ô1t af-(x,y)J CL
•
UO
- - 1
- .
Soit
(u,v)
E lim:ô1t df-(x,y )1
. Il existe une suite de nombres
, " .
réels strictement positifs
(tn)n qui tend vers zéro en décroissant
et une suite
(u , v )
d'éléments de H x H convergeant vers
(u,v),
n
n n
telles que
:
y·+t v
E
af(x+t u )
VnGN •
(1-13 )
n n
n n
(1-12)
permet de dire que
:
(t lu 1 )EL(u
)
n
n
n
Far suite,L étant de graphe
fermé
, on obtient
(U,V)EL
Vérifions à présent l'inclusion
.
1
L C 1
[df -
l.m t
.
-
(x,y)1
HO
Soit
(u,v)EL,
pour toute suite de nombres réels strictement posi-
tifs
(t ) qui tend vers zéro en décroissant,
posons :
n

---

-
I l
-
u
= u
n
l
v
= v +
o(t1ul)
n
t
n
n
(1-12)
permet alors d'écrire que:
(x+t u
*
y
1
+t v ) E aE
"ne<
1
_ .
n n
n n
par suite, que:
(u,v;Elim t [af-(x,y )}
uo
Remargue 1-3
Nous allons observer à travers l'exemple suivant
que la régularité de aE au point X, relativement à y * n'entraine
-
*
pas que af soit différentiable au point
(x,y )
En effet,
prenons pour f
la fonction valeur absolue
deE dansE. On sait qu'au point x = 0,
af(x)
= [-1,1]
Pour tout
y-EJ-l,l[ J l'égalité suivante est réalisée:
KafCx,y*)
= L
où L
est l'opérateur(multivoque)
de E
dans m, défini par:
L(x)
={~ si x 7'- 0
si x = 0
y
1 - - - - - - - - df
__+------>x
On vérifie directement sur le schéma précédent que la double in-
clusion suivante a
lieu :
lim 1
- .
t [
l
-
df- (x. y Il C L C lim p af- (x,
tH
uo
Par contre,
on n'a pas:
! l =
•
Y
+ tL(h)
+ o(tlhl)B
"hG!<.
Donnons quelques exemples simples de fonctions ayant un sous-
différentiel régulier
:

---

-
12 -
Exemple 1-1.
Soit une fonction convexe s.c.l.
propre
f
: H +~ U{+m} dont le sous-différentiel af est de graphe linéaire
dans H x H.
-
-~
En tout point
(x,y )Eaf,af est régulier au point x relativement à
•
Y t
et la double inclusion suivante a lieu
lim 1
- .
I[ af-(x,y )1
Caf
C 1 -
1
lm -
ua
ua t
Exemple 1-2
On pose H = Rn et on considère la fonction
f
H +m,
définie par
f(x)
= Ixl = «x,x>
pour tout ~n
{la norme euclidienne dans ]Rn!:
Pour x = 0, on sait que le sous-différentiel
af de f, au point x, est B (la boule unité de centre l'origine).
Pour tout y-EB tel que
ly*1 < 1, af est régulier au point x rela-
tivement à y*et l~ double inclusion suivante a lieu
lirn 1 [af-(x,y.)]
C L C
1
- .
Hm I [ af - (x, y ) 1
HO t
tni
oü L.est .l'opérateur
(multivoque)
de]Rn dans]Rn tel que
L(u)
=(~
si u F a
l]Rn
si li = a
,.
..
Lorsque y
est tel que
Il:1 =1, pour x = 0, ?Jf n'est
pas régulier au IJ)int x relativement à Y -

---

-
13
-
2 - Formes quadratiques généralisées convexes.
Définition 2-1
On appelle forme quadratique généralisée convexe
toute fonction convexe s.c.i.,
propre q
: H +mU{+~}
, dont le
domaine D(q)
est un sous-espace vectoriel de H,
et pour laquelle
i l existe une forme bilinéaire syrnétr~que semi-définie positive
L
:
D(q)
x D(q)
+~
telle que:
q(h)
= L(h,h)
pour tout hE o(q)
Rappelons que
se donner
une
forme
bilinéaire
symé-
trique
semi-définie positive L
O(q)
x
0 (q) ..
nt
,
revient
à
se
•
donner un opérateur linéaire A
O(q)
-+
D(q)
v é r i f i a n t :
< Ah,
k
> = < h,Ak >
pour
tout h,k E D(q)
< Ah,
h >
~
0
pour
tout hEo (q)
Exemple 2-1
Soit f
une fonction convexe deux fois Fréchet-déri-
vacle" en un point x de H. On sait (cf. Théorème 5-11 [12]
) que
~2f(x) (la dérivée seconde de f au point x) est une application
bilinéaire symétrique semi-définie positive SUr H. Aussi,
la fonc-
tion q définie par :
l
q (h)
= "2 < ,ff(x) h,h >
pour tout hEH
répond bien à
la définition d'une forme quadratique généralisée
convexe donnée plus haut;
dans ce cas particulier, elle est par-
tout définie sur H.
Ainsi,
dans le concept de dérivée seconde au
sens de Rockafellar
la forme quadratique généralisée va jouer un
r
rôle ~~-r~-li.èle à celui joué par <~f (x)h,h >
lorsque f
est deux fois
dérivable au sens de Fréchet.
2.1.
caractérisation' d'une forme quadratique généralisée con.y~:::c...e
Dans ce paragraphe nous nous intéressons à la ques-
tion suivante: comment reconnaître qu'une fonction q
: H ~ E

---

-
14 -
est une forme quadratique généralisée convexe ? La réponse à cette
question a été donnée par Rockafellar dans llarticle [20]
; à sa-
voir que les formes quadratiques généralisées convexes sur En sont
n
-
exactement l es fonctions convexes q : :IR -+- :IR pour lesquelles le
graphe du sous-différentiel
dq est un sous espace vectoriel de
n
n
Il.
x]R.
Nous allons dans ce paragraphe donner une démonstra-
tion de ce résultat,
laquelle sladapte au cadre de la dimension in-
finie et permet dlobtenir une écriture explicite de q.
Proposition 2-1
(Brézis [8]
soit q une fonction convexe s.c.i propre définie sur
H et à
valeurs dans]RU {+oo}
•
On pose
A=. ag
(oü
aq désigne le
sous-différentiel de q). Pour tout réel
À > 0,
on désigne par
J~ : = (I + >'A)-l la résolvante de A, et par A = ~ (I - J>.) l'ap-
À
proximation Yosida de A de paramètre À.
Les assertions suivantes ont lieu
(2 -1 )
1)
l im
J À (x)
= x
pour tout xED(q)
1.10
2)
lirn
AI. (x)
~ AOx
pour tout xED (A)
(2-2)
UO
oü AOx désigne l'élément de norme minimale dans Ax
clest-à-dire
(projec~on de 0 sur Ax)
3)
lirnq(JÀ(x)
~q(x)
pour tout xED(q)
(2-3)
Uo
Proposition 2-2
Soi t
une fonction convexe s. c. i. propre q
: H +]Ru{ +oo} ,
telle que q(O)
= O. Si le sous-différentiel aq de q est de graphe
O
linéaire dans H x H,
alors llapplication A
qui ~ tout xED(aq) fait
correspondre Il élément de norme minimale dans dq(X), est linéaire,
symétrique, et semi-d~finie positive.
De plus,
la fonction q est définie sur le domaine D(dg)
de aq par
pour tout hED ( :3 q)
(2-4)

---

-
15
-
Démonstration.
Considérons la famille
(qÀ)À>O des approximations
Moreau-Yosida associée à g, oü pour tout
À>O, qÀ
est la fonc-
tion convexe de classe Cl
(cf. (8]
définie par
1
2
qÀ (y)
= min (q(x) + 2À Iy-xl )
pour tout yEH.
xEH
On sait que ~qÀ
coïncide avec
(aq)À
'
l'approxi-
mation Yosida de paramètre À
de l'opérateur maximal monotone dg.
Aussi,
puisque dg est de graphe linéaire dans H x H, on obtient ~ue
(aq)À est une application linéaire de H dans H. On peut alors
écrire que :
d
dt
(qÀ (th»
= <~q}th) ,h> = t < ~qÀ (h) ,hl>
pour tout hEH
dt = ~ ~ qÀ (h) ,h >
(2-5 )
Par différentiation, on obtient
:
1
~qÀ ="2 [~qÀ + (l}qÀ)~l oü (l}qÀ)* désigne l'adjoint de l'application
linéaire I} q À
..
Par conséquent on a que: VqÀ = (VqÀ) J c'est-a-dire
que 'i7QÀ
est symétrique. On déduit alors de la proposition 2-2 et
de l'égalité (2-5) que q est définie ~ur le domaine D(aq) de aq
par
:
pour tout hED'(aq)
O
où A
désigne llapplication qui ~ tout hED(aq) fait correspondre
li élément de norme minimale dans aq(h). On vérifie ensuite sans
O
difficulté
que A
est linéaire,
sy~étrique et semi-définie
positive.
Proposition 2-3
Sous les hypothèses de la proposition 2-2,
les deux
assertions suivantes ont lieu :
1/ le domaine D(q) de q est un sous-espace vectoriel de H

---

-
16
-
2/ l'application hED(q) ~ f,qTh-r est une semi-norme. De plus,
cette semi-norme dérive d'une forme bilinéaire symétrique semi-
définie positive L : D(q)
x D(q) + E,
telle que
q(h)
~ L(h,h)
pour tout
hED(q).
Démonstration
Pour vérifier l'assertion
(1),
nous allons montrer
dans un premier temps que pour tout
(t,h)GR x D(q) 1 on a que thED(q).
Bn effet,
pour tout réel À > 0,
J
(th)
appartient au domaine D(àq)
À
de ag
(cf.théorème 2-2 [8]
).
De plus,
J
(h)
tend vers h lorsque
À
À tend vers
zéro.
J
étant une application linéaire du fait que
À
dg est de graphe linéaire dans H x H,
on a que J
(th)
tend vers
À
th lorsque À tend vers zéro.
De même,
puisque q(J
(th»
= ~AO(JÀ (th» 1
À
2
J
(th)
>
on a que: q(J
(th»
= t q(J (h). Par conséquent, on a :
À
À
À
2
q(th)
<;
Hm q(J
(th))
~ t q(h) < + 00
(2.6)
À
>:TI
Montrons à présent que pour tout hl'
h ED(q), on a
2
que,
hl + h ED(q).
2
En effet,
d'après 2-6, on a
: g(2
)
<;
. La convexité
de q permet alors de conclure que
q(h +h ) <; 2q(h )+2q(h ) < +00
l
2
l
2
Quant à
l'assertion
(2},
remarquons d'abord que l'application
hED(q}~ ~ est bien définie. Cela découle du fait que q(O) = 0
2
et que 0 Eaq(O). Soit hED(q)
et soit tGR, Puisque q(J
(th)):t q(J
(h)),
À
À
on a en faisant tendre À vers zéro,
que :/q(th)
= Itl ~.
De même,
soient h ,h ED(q)
1
2
1
on a
:
Vérifions à
présent que la semi-norme Il • U =
Iq (.)
dérive d'une
forme bilinéaire symétrique semi-définie positive sur D(q). Pour
cela,
i l s'agit de vérifier que la fonction qui à tout
2
(X,y)ED(q)
x D(q)
fait correspondre t(llx+y"2-IIX~2 -Hy~
) est une
forme bilinéaire symétrique sur D(q).

---

-
17 -
En effet,
on a
q(J (x+y»
À
l
0
l
a
a
= z<A (JI. Ix» ,JI. (x»~A (JI. Iyl) ,JI. Iy»+ <A IJÀ(X»,JÀIyl>
=
qIJÀ(x)l+q(JÀ(y»
+ <AoIJÀ(x», JÀ(y»
Lorsqu'on fait tendre
À vers
zéro, on obtient:
q(x+y)-q(x)-q(y)
= lim < AO(J (x», JI. (yl >
(2-8)
À
HO
Comme pour tout À> 0,
l'application
(X,Y)ED(q)XD(q)+<Ao{J
(x»
,J
(y»
À
À
est bilinéaire symétrique et semi-définie positive, par conséquent,
.
l
2
2
2
l'app11cation
(x,y)ED(q)xD(q)
+
~(ax+yn
-Uxl
-Iyl, est une forme
bilinéaire symétrique et semi-définie positive.
La semi-norme I.U
dérive alors d'une forme bilinéaire symétrique,
et celle-ci est semi-
définie positive et unique
(cf.
[21]
i
d'où le résultat de la pro-
pos! tian 2-3.
Remarque 2-1.
Réciproquement,
si on se donne une forme quadratique
généralisée convexe q
: H +~U{+oo}
,
telle que le domaine D(q)
de q
soit fermé dans H (ce qui est toujours le cas en dimension finie),
alors le sous-différentiel aq de q est de graphe linéaire dans HxH.
Démonstration
Posons D(q}
= N. Dans ce cas, q peut s'écrire sous la
forme suivante
q(h)
= ~ < Ah,h > + ~N(h)
V:hEH
où A désigne l'application linéaire symétrique semi-définie posi-
tive associée à q,
et
~N désigne la fonction indicatrice de N. On
vérifie alors que
: y E a (xl
si et seulement si xEN et y-AxEtr
1
q
où tr est l'orthogonal de N.
Par conséquent, on a bien que aq est
de graphe linéaire dans HxH.

---

-
18 -
Remargue 2-2
Une condition suffisante pour que le domaine D(q)
de q soit fermé dans H est que le domaine D(ag)
de dg soit fermé
dans H. Dans ce cas, lorsque q est une forme. quadratique ge.l1éralisée
convexe,
la forme bilinéaire symétrique,
semi-définie positive
L : D(q)xD(q)~ associée à q, est définie par
L(h,k)
~i<Aoh,k> pour tout h,kED(aq) =D(q) (2-9)
,
,
oü AOh est l'élément de norme minimale dans aq(h).
Exemples de formes quadratiques généralisées convexes
Exemple 2-2
Soit
(5,%,).1)
un espace mesuré positif avec
\\1(5)<';'<:0,
et soit1C = L 2 (S,Hl. Etant donné une fonction convexe s.c.i. propre p
sur H,
pour tout uEU , on pose :
f
p{u(s))d~(s)
S
~(ul = { +00
sinon
On sait que
West convexe s.c.i. propre (cf.[B]) et son sous-diffé-
rentiel dW coïncide avec llopérateur prolongement du sous-diffé-
rentiel dP de P i
c'est-à-dire:
vE dlli (u)
si et seulement si
v(s)E dp(U(S)
V-p.p.
sur S.
Par conséquent,
p est une forme qua-
dratique généralisée sur H si et seulement si ~ est une forme qua-
dratique généralisée sur X.
Exemple 2-3
2
Soit Q un ouvert borné de mn , on pose H = L (Q),
et aq = -ü
(où ü
désigne l'opérateur laplacien). On a
:
2
D (aq)
~ H WI n H1W).
o
aq étant de graphe linéaire dans HXH,
q est bien une forme qua-
dratique généralisée convexe,
et on a
si
sinon

---

-
19
-
2.2. Conjuguée d'une forme quadratigue généralisée convexe.
A toute fonction f
:
H +E, on sait associer sa
fonction conjuguée
(ou polaire)
f· : H +~, définie par
~
(<x
,x>- f(x)}
On sait aussi que lorsque f
est convexe s.c.i propre,
la conjuguée
f· de f est également convexe s.c.i.propre, et son sous-différentiel
ai· coïncide avec l'inverse de l'opérateur sous-différentiel ai.
_ ! t
. _
..
En d'autres termes,
( x,y) E at
si et seulement si
(y ,x) E af •
(cf.
[21
proposition 2-4
Soit q
:
H +~u(+oo}
,
une fonction convexe s.c.i.
propre. Les assertions suivantes sont équivalentes
i)
q est une forme quadratique généralisée
ii)
q*
(la conjuguée de q)
est une forme quadratique généralisée.
Démonstration
Elle repose essentiellement sur le fait que le
sous-différentiel aq· de q~ coïncide avec (aq)-l, l'inverse du
sous-différentiel aq de q.
Remarque 2-3
Soit q
: H +EU{+~} une forme quadratique généra-
lisée convexe,
l'opérateur linéaire L apparaissant dans la défi-
nition de q,
tel que q (h)
= ~ < L (h), h>
VhED (q)
=
N, n'est
évidemment pas unique.
Cependant i l est possible d'obtenir une
écriture explicite de la conjuguée q~ de q, en fonction de l'opé-
rateur linéaire L,
lorsque le domaine D{q)
de q est fermé dans H.
Proposition 2-5
[ 16 J
Sous les hypothèses de la remarque précédente,
ç *
(la conjuguée de q)
est définie par :
l
+
li-"
~
l
* ~
{'1 < (lTLlT) (x ),x > si x EImL + ~
q
(x
)
=
+~
sinon

---

-
20 -
TI
désigne la projection orthogonale sur H
l
N
désigne
l'espace orthogonal de N
.
(nLn)+ désigne le pseudo-inverse de l'opérateur linéaire
(nLn)
,
c'est-~-dire l'opérateur obtenu par le schéma suivant
1
P
((.L.J/Im(.L.JJ-
i
H _ - > lm (nLn)
- - - - - - - - > lm (. L. J CC--i>i> H
oŒ p désigne la projection orthogonale de H sur le sous-espace
·lm (nLTT)
i
désigne l'injection canonique de Irn(nLn)
dans H
((nLn)!Irn(nLn»)-l désigne l'inverse de la restriction
(nLn}!Im(nLn)
de l'opérateur
(nLn)
à
son image.

---

-
21
-
3. Dérivée seconde généralisée au sens de Rockafellar en
dimension infinie.
On considère f
:
H ~mu{+~} une fonction convexe
s.c.i.
propre,
et
(x,y-)
~ppartenant au graphe du sous-différentiel
ai de fIla fonction f~(X,y·; .): H -+ JRU{+co} , définie par:
-
..
f(x)-t< y 1 h
>
."
-
t
.l:"e(x,y.. ;h)
= inf {Hm
HO
p~ur tout hEH, nlest rien d'autre que l'épi-limite supérieure de la
suite des quotients différentiels
-
-
f(x+t.)-f(x)-t<y " ,.>
(
A-x
.. t
.)
=
2
, Y ,
t
lorsque t+O
. Elle sera dite l'épi-dérivée directionnelle du second
ordre supérieure de f
au point x relativement à y••
On pourrait de la même façon définir l'épi-dérivée directionnelle
du second ordre inférieure de f
au point x relativement à y~, en
prenant l'épi-limite inférieure des quotients diffêrentiels
-
-
..
•
f-,(",x,-,+-,t:.!.)_--,f"(~Xr)_---,t::<,-,y,--",,.:..:>,-
A-x
" t ( · ) = -
2
,y ,
t
lorsque t~O. Cependant,
en procédant
ainsi
on perd la pro-
priété de convexité,
nêcessaire pour une dérivée directionnelle
du premier ordre ou du second ordre
(cf. [91) [lA]
). Ceci,
du fait
que l'épi-limite infêrieure d'une suite de fonctions convexes n'a
aucune raison d'être convexe.
Dans la proposition suivante,
nous énonçons quel-
ques propriêtês immédiates de la fonction ~~(x,y·;.) : H ~m U{+œ}.
Proposi tion 3 1
0
-f"(-
"
)
La fonction
e x,y ;0
H ~mu{+œ} possède les
propriétés suivantes :

---

-
22 -
_ _
.;t.
a)
f" (x,y ;.)
est convexe
et s.c.i.
e
.
bl
-f". (-
x,y• ; ~ )
est positive
e
f~(x,y.
-
-
,hl >0 a
- l I
-
. .
cl
f ( x , y ; . )
est positivement homogène de degré deux :
e
f" (x y.
-
-
.
a)
= a
e
'
,
fil
2-
- .
lia EJR •
(x y.
-
-
'ah)
=
e
'
,
Cl.
fIt
(x
y
'hl
e
'
,
YhEH
+
Démonstration
La fonction qui à tout hEH,
fait correspondre
f'x,Y~ih) est convexe s.c.i sur H, puisqutelle est obtenue comme
e
épi-limite supérieure de la suite de fonctions convexes s.c.i.
=
f(x+t.)-f(x)-t<y.
-
-
,.>
A-
•
t ( . )
2
x,y ,
t
lorsque ua
(cf.
Proposi tian 3-1 [1]
). D'autre part,
pour tout
hEH,
et pour tout réel t>O, on a que
f (x+th) -f (x) :> <y•,h>
t
- I I
-
•
Par conséquent, on a
:
fe<x,y :h) :> O.
On justifie de la même manière que f~(X,y·;O) = O. Quant à la der-
nière assertion, elle découle directement de la définition de l'épi-
limite supérieure
(cf. définition 1.-8
[1]
).
9éfinition 3-2
Etant donné {F,F
:
H -+- E.u{+co}
;
l''EJN}
une suite
n
de fonctions convexes s.c.i. propres, on dira que F
converge au
n
sens de Mosco vers F,
si les deux assertions suivantes ont lieu:
w
i)
YxEH
Yx _ _ >x
F (x) ~
liIt'l F n (x )
n
n
n
11)
YxEH
' x
_ _>x
lim F
(x
)
"
F (x)
J
on
n
n
on

---

-
23 -
Théorème 3-3.
Soi t
f
:
H -+ lR U {+oo}
une fonction convexe s. c. i.
-
..
propre, et soit (x,y ) appartenant au graphe du sous-différentiel
af de f. Sous l'hypothèse de régularité de af au point x relative-
ment à Y~' la fonction l''(x,y-;.)
: H +JR U {+oo} vérifie les pro-
e
priétés suivantes :
1
1
- I I
-
•
a)
e sous-différentie
de fe(x,y ;.)
est tel que :
-
-
bl
~
f~(x,y i,)
est obtenue comme Mosco-limite des quotients diffé-
rentiels A_
*
(.) lorsque t tehd vers zéro:
K, y
, t
-
-
,.
-
-
~
f (xH.) -f (x) -t<y ,. >
f " ( x , y ; . ) = Mosco-lim
e
uo
2
t
-
-
,.
cl
f"(x,y i.)
est une forme quadratique généralisée convexe:
e
- - ,.
f" (x y
'd)
e
'
•
= ~<L_
~(d),d >
x,y
où L
* est une application linéaire/symétrique et semi-définie
x,y
positive.
Pour démontrer ce résultat,
nous utiliserons le ré-
sultat suivant da à ATTOUCH [11
,
sur le lien entre la convergence
au sens de Mosco d'une suite de fonctions convexes,
et la conver-
gence au sens des graphes,
de la suite d'opérateurs sous-diffêrentiel
associêe
Théorème 3-4
iAttouch [ 1]
On considère une suite {F,F
: H +mu{+~}; nGN}
de
n
fonctions convexes s.c.i. propres. Les assertions suivantes sont
équivalentes :
i)
F
converge au sens de Mosco vers F
n

---

-
24 -
" 3Fn
converge au sens des graphes vers
aF
ii)
{ 3(u,f) EaF
( u , f ) E oF
;
"fI'n~
un + u
,
n
n
n
Nous utiliserons également le résultat suivant dU
â
Rockafellar [19\\]
sur la fermeture de la classe des opérateurs
sous-différentiels dans l'ensemble des opérateurs maximaux monoto-
nes,
pour la convergence au sens des graphes.
Théorème
3-5
(Rockafellar [19]
La classe des opérateurs sous-différentiels est
fermée dans l'ensemble des opérateurs maximaux monotones, pour la
convergence au sens des graphes.
En d'autres termes,
si on a une suite {F
; neN}
n
de fonctions convexes s.c.i. propres,
telle que aF
converge au
n
sens des graphes vers un opérateur Ar alors i l existe une fonction
convexe s.c.i. propre
F: H~{+œ} , telle que: A = aF.
Démonstration du théorème
3-3
puisque 3f est régulier au point x relativement â y *,
la suite d'opérateurs sous-différentiels 31\\
..,(.)={iafCx+t.)-y*]
x,y , t
converge au sens des graphes lorsque t
tend vers zéro. La classe
des opérateurs sous-différentiels étant fermée dans l'ensemble des
opérateurs maximaux monotones, pour la convergence au sens des
graphes, i l existe alors une fonction convexe s.c.i propre que nous
notons qf
,
telle que la suite d'opérateurs sous-différentiels
-
x,y.
31\\ _
•
(.)
converge au sens des graphes vers l'opérateur"sous-
x,y , t
différentiel

---

-
25
-
suffit" de vérifier la condition de normalisation du théorème 3-4.
En effet,
si on pose
(u,p)
~ (0,0) et (Ut'p~) ~
(0,0),
f
on a bien que
(0,0)
E aq_
~ 1 avec
(0,0) E aA
*'
pour tout t>O.
x,y
x,y , t
Par conséquent,
la suite de fonctions convexes
propres A
,.
(.)
converge au sens de Mesco vers f;
.
-
-
(x,y ;.)
=
X, Y
, t
Quant au fait que
.
-
-
f~(x,y ;.) est une forme quadrati-
f
que généralisée convexe,
il découle du fait que aq_
•
est de graphe
x,y
linéaire dans HxH.
Théorème 3-6
Soit une fonction convexe s.c.i. propre f:H~U{+~},
et soit (x, y.)
appartenant au graphe du sous-différentiel af de f.
Sous l'hypothèse de stricte régularité de af au point x relative-
ment à y., la fonction I~(x,y·;.) : H +~U{+œ} vérifie les proprié-
tés suivantes
.
-
-
a)
Le sous-différentiel de f"(x,y;.)
est tel que
e
-
- .
a[f"(x,y ;.)]= lim a[f"(x,y;.)]=
~ lim iI af-(x,y)]
e
af e _
•
ua
(x,y)--> (x,y )
af
-
,.
(x,y) -->x,y )
b)
fn
(x,y·;o)
est obtenue comme Mosco-limite des fonctions
e
I:
.
-
(x,y;.)
lorsque
(x,y)
af
>(x,y ):
-" -
,.
f
(x, y ;.)
= Mosco-llm
f~( x,y ;.)
e
ai
- .
(x,y)~~->(x,y )
est obtenue comme Mosco-limite de la suite des
quotients différentiels A
t(o)
lorsque t+O et lorsque
x,y,
af
-
*
(x,y)~--->(x,y )
fn
.
-
-
f(x+t.)-f(x)-t<y,.>
(x,y ; .)= Mosco-lim
e
2
t,a
t
af
-
•
(x,y)--> (x,y
)

---

-
26 -
Démonstration
Puisque
af est strictement régulier au point x
relativement ~ y• 1 pour tout
(x, y)
dans un voisinage V
de
•
.
-
(x,y ), tel que
(x,y)--~-
.
x,y
at
-
>(x,y),
on peut poser
f
Kat (x,y)
= aqx,y
Aussi, dire que la limite au sens de Kuratowski de Kaf(x,y)
existe,
lorsque
(x, y)
tend vers
.
-
(x,y ) en restant dans le graphe de
af,
revient à dire que la suite d'opérateurs sous-différentiels aq;,y
d
f
af
- .
converge au sens
es graphes vers aq_
'"
lorsque
(x,y)---->(x,y )
x,y
La condition de normalisation du théorème 4-4 se
vérifiant facilement,
on a que
f
-
-
'"
.=
q
f;(X,y
;.)
est obtenue comme
x,y
Mosco-limite des fonctions convexes s.c.l. propres r~(x,y;.) lorsque
. at
-
•
(x,y)---->(x,y ).
D'autre part, en remarquant que la convergence au
sens de Mosco est attachée à une métrique,
le lemme de diaqonalisation
- "
-
III:
(cf.'corollaire 1.18 [1])
permet d'affirmer que fe(x,y 1.)
est obtenue
comme Mosco-limite des fonctions conveXG s.c.i. propres.
= =f-,(-"x,-,+-,t'-"..I.)_-~fc'("x,,),----,t"-<"YL'L·:"":'>
A
t ( ' )
-
2
x,y,
t
af
- .
lorsque t~O et lorsque
(x,y)---->(x,y )
-
-
explicite de
.
3.1. Une écriture
f~(x,y j.)
Pour compléter l'étude théorique précédente de l'épi-
dérivée directionnelle du second ordre supérieure,
nous allons dans
ce paragraphe voir comment obtenir une écriture explicite de f~(X,Y·j_
en fonction de l'opérateur A dont le graphe cOïncide avec le cOne
contingent du graphe de
af au point
.
-
(x,y ).

---

-
27
-
Remarque 3-7.
-
Sous l'hypothèse de régularité de af au point x
relativement à y •, on considère l'opérateur maximal monotone A
dont le graphe coincide aVec
le cOne contingent du graphe de af
au point
(x,y )
; c'est-à-dire: A = Kaf(X,y.
.
- .
-
)
Si le domaine O(A)
de A est fermé dans H (ce qui est le cas en di-
?
-
•
mens ion finie), on a l'expression suivante de ~;(x,y i.)
:
l
0
h >
si h€D (A)
_
_ .
= 1"2"+ ~A h,
f~lx,y ;.)
l _
sinon
oQ AO est l'application qui a tout hED(A), fait correspondre l'é-
lément de norme minimale dans Ah : c'est-a,-dire :
Ah
(la projection de 0 sur Ah)
Remarque
)- 8.
Toujours sous
l'hypothèse de régularité de af au
point x relativement à y*, on considère l'opérateur maximal mono-
tone A dont le graphe colncide avec le cOne contingent du graphe
de af, au point
-
(x,y * )
i
c1est-â-dire : A =
-
Kaf(x,y * )
.
Pour tout xEO(A)
(l'adhérence du domaine de A),
i l existe une so-
lution unique
u
: t O,œ[~O{A)
du problème
x
2
d
u- A
--r u
p.p.
sur IO,~1
dt
u(O)
= x
et
suplu(t)I<+~
13-4)
J;;>O
IcLthéorème 1-2 16] ) •• Pour tout réel t " 0, l'application Sl/2lt)
qui â xEO(A)
fait correspondre la valeur â l'instant t de la
solution
(3-4),
définit un semi-groupe sur ~
(Cf. définition
4-1 (61)~
L"opérateur maxLmal monotone Al engendré par ce
"2

---

-
28 -
semi-groupe est appelé racine carrée de l'opérateur maximal mono-
tone A. Dans ces conditions,
l'application A~ qui à UED{A ) fait
1
T
2"
correspondre l'élément de norme minimale dans A1u,est linéaire.
2
De plus, on a l'expression suivante de I~(X'Y*i.)
si UED(A )
fil
1
(x y.
-
-
'u)
e
'
,
2"
sinon
Commentaire
A la base du résultat énoncé dans la remarque pré-
cédente,
il y a l e théorème suivant
(cf. [6]
).
Soit
p
une fonction convexe s.c.i. propre définie sur H et à va-
leurs dans JRv(+co}
,
telle que OER(êlp)
(l'image de
êlp). Si on pose
A = êlp
J
alors les deux assertions suivantes ont lieu
i)
D (Al)
= D (p)
2"
ii)
'1xED(p)
où Al désigne la racine carrée de l'opérateur maximal ~onotone A,
2"
o
Alli désigne l'élément de norme minimale dans
désigne
2"
le réel tel que
pw ~ inf p (u)
uEH
Le seul fait nouveau dans la remarque précédente, est que sous llhy_
«
pothèse de régularité cie
~ au point x relativement à y
l'appli-
cation qui à tout uED(A,l) fait correspondre llélément de norme ffiin~-
2
male dans AIU, est linéaire. Ce qui d'ailleurs découle directement
2
du fait que A
est de graphe linéaire dans HxH.

---

-
29 -
3.2.
Propriétés de la conjuguée
-
-
de
"
f~(x,y i.)
-
-
La fonction f"(x,y ";.)
étant convexe s.c.i propre,
e
"1
1.
en es t
d e IDë me pour sa
"
-
conJuguee [ -f"e 1-
x,y" ;. 11 " • Nous a 11ons
montrer dans ce paragraphe que sous la seule hypothèse de régula-
.
.
~
-
rité de af au pClnt x,
relatlvernent ~ y
,
-.
[f;(x,y ;.)) . peut être
obtenue comme Mosco-limite des quotients différentiels
.."*
! t . -
A"
= f Iy +t.)-f Iy )-tex,.>
lorsque t ... O
y" -
,x,
2
t
t
où f* désigne la conjuguée de f.
Proposition 3-9.
Soit
-
(x,y")Eaf et soit f " la conjuguée de f. Les
assertions suivantes sont équivalentes
:
i l
af est régulier au point x relativement à y "
ii)
af- est régulier' au point y. relativement A x
On utilisera dans la démonstration'de cette propo-
sition,
le résultat suivant dO à Mesce
I c f . [ l ] 1 .
Théorème 3-10
IMoscO [ II
Etant donné {F, F
; nSN}
une suite de fonctions
n
convexes s.c.i. propres définies sur H et à valeurs dans mu{+w}
,
on note F~ (resp. P*) la conjuguée de F
(resp.F).
n
Les assertions suivantes sont équivalentes
i l
F
Mosco-converge vers F
n
ii)
F*
Mosco-converge vers F-
n
Démonstration de la proposition ]-9
Remarquons dans un premier temps que la conjuguée
de la fonction convexe s.c.i.
propre
flx+t.I-
-
f(x)-t<y",.>
A-
,.
1.1 =
x,y , t

---

-
30
-
coïncide avec la fonction convexe s.c.i. propre définie par
•
= f •
( y •
+ t . )
- t < x , . >
A.
1• )
y
, x, t
En effet,
soit uEH,
par définition de la conjuguée, on a
(A
•
(.») • (u)
= sup (<u,h> -
(hl)
1\\_
..
x, y , t
hEH
x,y
t
f(x+th)-f(x)-t<y.
-
-
=
,h> ]
sup«
u,h>-
2
hEH
t
En faisant le changement de variable w = x + th, on obtient
le
résultat énoncé plus haut.
Aussi,
af étant régulier au point x relativement à
•
Y , la suite d'opérateurs sOlls-différentels aA_
..
(.) converge au
x,y , t
sens des graphes lorsque t~O. Il existe alors une fonction convexe
s.c.i. propre q~..
telle que
la suite d'opérateurs sous-
x,y
différentiels a/l;,..
..
(.)
converge au senE des graphes vers l'opéra-
x, y
, t
te ur sous-différentiel
t\\
..
(.)
converge alors au
x,y
, t
sens de Mosco vers
. Le théorème précédent permet d'affirmer
que
A'\\
1.)
converge au sens de Mosco vers
(q:
. ) .
y
,x,t
x,y
•
f
-1
En utilisant le fait que
on obtient que af •
dq
if (dq_
~)
,
x,y
x,y
est régulier au point y. relativement à x.
Proposition 3-11.
Soit
.
-
(x,y )Eaf.
Sous l'hypothèse de régularité de
x relativement à y.
[f~ -.
(x,y ;.) l .
-
df au point
la conjuguée de
f;CX,y·; .), vérifie les propriétés suivantes

---

-
31 -
al [ -f" ( - . .
J"
e X ' Y ; o )
coïncide avec l'épi-dérivée directionnelle du
..
..
-
second ordre supérieure de f
au point y
relativement à x
[f~(x,y ;.)] .
-
-
~
(.)
=
~
" -
(f
)"(y ;x;.)
e
b)
-::*"
. -
(f )e(Y IX •• )
est obtenue comme Mosco-llmite des quotients dif-
férentiels
lorsque t
tend vers zéro :
A " -
(.)
y , X, t
.. .. -
f
(y +t.)-f
(y)-tex,.>
Mosco-lim
UO
2
t
Si en plus,
df est strictement régulier au point x relativement à
..Y, alors, on a ~
-
..
c)
= Mosco-lim
(f"(x,y;.»)
C.)
dt
-
~
(x,y)----> (x,y )
Démonstration
Elle résulte directement de l'équivalence entre la
régularité de
af au point x relativement à y., et la régularité
de af~ au point y4 relativement à x.
L'assertion
(c)
quand à elle, est une application immédiate du
théorème
3-10.
Remarque
3-9
Comme dans la proposition 2-5,
i l est possible
d'obtenir une écriture explicite de [l'' (x,y·;.)]~ en fonction
e
de l'opérateur linéaire symétrique,
semi-définie positive, appa-
raissant dans la définition de f" (x,y*;.),
sous l'hypothèse de
e
..
régularité de df
au point x relativement à y .
3.3. Exemple de calcul
-
de
- ..
f~(x,y ;.)
On pose H = mn et on considère la fonction convexe
définie par
n
f(x)
•
Ixl
./ex,x>
YxEJR
(la norme euclidienne dans ]Rn)

---

-
32 -
Pour x ~ 0, on sa~t que le sous-différentiel de f
au point x est tel que .of(x)
={~} . On a l'expression suivante de
Ixl
l'épi-dérivée directionne!le du second ordre supérieure de f
au
point x
relativement ~
x
Ixl
-
2
l'' (x,
x
; h)
= l
«h,h> - <x,h> l
e
liil
<x,X>
De même pou~ x = 0, on sait que le sous-différentiel de f au point
x
est tel que àf(x)
= B
(oü B désigne la boule unité de centre
l'origine) .
Aussi,
pour
Ix"l = l, on a
1
Pour
1x"l < 1. on a ,
h = 0
fil (x x.
-
-
·h)
e
•
•
sinon

---

-
33 -
4. Lien entre la dérivée seconde au sens de Rockafellar et la
dérivée seconde au sens d'Hiriart-Urruty.
Le calcul différentiel généralisé du premier ordre en
analyse convexe [19]
associe.
à
une fonction convexe
f :
H -+]R,
une multiapplication af appelée sous-différentiel de f. Pour éten-
dre l'opération de sous-différentiation de f
à
3f,
une approche
introduite par J.B.Hiriart-Urruty [14]
a
été de définir à partir
de la dérivée directionnelle du second ordre
(cf.
définition 2-2
[14]
), une multiapplication a2 f
jouant un rOle ·parallèle à celui
joué par af dans le cas de la dérivée généralisée du premier ordre.
Dans le but d'étudier le lien entre ce concept de
dérivée et celui de Rockafel1ar,
nous avons suivi une approche voi-
sine de celle d'Hiriart-Urruty dans [14]
et [22]
.
Nous définissons
ainsi une multiapplication 3~f à partir de l'épi-dérivée direction-
nelle du second ordre,
et nous montrons ensuite comment cette appro-
che mène à celle d'Hiriart-Urruty [14]
et à celle de Rockafellar.
4.0 Rappels
[cf.
22 1
Soit A un sous-ensemble non vide de H,
on désigne
par
•
~A la fonction d'appui de A :
..
x•EH -+
sup<x,x>
xEA
On considère f
: H -+ IRU {+<»}
une fonction convexe s. c. i. propre,
on sait que pour tout hEH,
la limite
fi (;e,h)
= lim
f (x+th) - f (x)
HO
t
existe dans]R u{+ <»},
dès lors que x est pris dans le domaine D(f)
de f.
De plus,
f' (x,,)
H -+ ]R"u(+<»} est convexe,
propre et positi-
vement homogène.
On pose
- - l
[ .=f-,(-"x-,-+.=td'7)_-~f,--,-,(X:.!...) _ f' (x, d) 1
Hm t
si
dED[ f' (x, .)l
t
fit (x,
HO
d)
: =
{ +m
sinon

---

-
34
-
et pour
-
(x,y ") Edf
-
-
f"
-1. ,1["
(x,Y "id)
=
1ID -
pour tout dEH
HOt
•
Il existe des directions hEH pour lesquelles f" (x,h)
et fil (x,y· ;h)
coïncident :
_ _"
~ C+f1:,h)
f" (x,y
l
;h)
~
sinon
où
••
= <y",h> }
La fonction hEH
-+
'ln (x"y*';h)
sera dite la dérivée directionnelle
..
du second ordre supérieure de f
au point ~ relativement à y . On
montre dans [14]
que la fonction q = Vi."(x,y-;
.)
est convexe,
propre et positivement homogène.
Par conséquent llensemble
2
- "
{ "
/ "
/
VIn l
"L,
a f (x 1 y
): = z EH < z , h>...
f
x, y
; rv
"'hEH )
est llunique ensemble convexe fermé non vide tel que
~~
/
1.)
= C1(V fnli,y";.))
.2
-
~
oflx,y )
où Cl(Vi"(x,y-;.»
désigne la fermeture de la fonction VI"(x,y-;,).
2
-
..
a f(x,y )
sera dit le sous-différentiel du second ordre de f
en x
relativement A y. ; ainsi se définit la dérivée seconde généralisée
..
au sens dlHiriart-Urruty de f
au point x relativement à y •
4.1
Dérivée seconde au sens dl Hiriart-Urrut y en termes d'épi-limite.
Proposition 4 .. 1
Etant donné
ex,y·) E af,
la fonction qe=vr~(X'Y·i.)
est convexe, propre et positivement homogène. De plus

---

-
35 -
est l'unique ensemble convexe,
fermé,
contenant l'origine,
tel que
les deux assertions suivantes aient lieu
:
•
al
~ 2 _
"
(.)
def(x,y )
2
- .
2
_
b)
Î
def(x,y ) C d f(x,y )
Démonstration: tel
que dans [22, théorème 3-1-6 ]
Il suffit de remarquer que l1ensemble
(hEH /
-
-
f~(x,y";h) " l
}
est convexe et fermé,
contient l'origine, et a pour jauge la fonc-
Ensuite on utilise le théorème da ~ Hormander [101
sur le lien
entre les fonctionnelles sous-linéaires semi-continues inférieure-
ment, définies sur ~ (un espace vectoriel topologique) et les en-
sembles convexes fermés non vides de ~ (dual topologique de X).
Ce théorème dans le cadre hilbertien,
s'énonce comme suit
Soit ~ : H +EU{+~}, une fonction semi-continue inférieurement et
sous-linéaire
(convexe, positivement homogène) 1
il existe alors
un ensemble convexe fermé non vide A de H,
tel que î = I/J• (.).
A
Cet ensemble est unique et est caractérisé comme suit
A = dl (0)
= {x!t-EH /
'ihEH
<x·,h> < t (h)}
Quant à l'assertion
(b),
elle découle de l'inégalité:
< f " ( x , .
-
-
y ; . )

---

-
36
-
Remarque 4.2.
L'information que nous apporte l'hypothèse de régu-
larité de
af au point x relativement à y~, est que la fonction
"
~2
-
est une semi-norme sur le domaine D[
- "
-
"
(.)
f~(x,y i.)] de
"ef(x,y)
-f" -
( x , "
y ; . ) .
De plus,
cette semi-norme dérive d'une forme bilinéaire
e
1
symétrique,
semi-définie positive -2 < L-
~. (.),. > telle que:
x,y
~iV~<L_
-
-
'idED[ f~ (x,y"
,,(d) ,d >
;.) 1
x,y
+ IX'
sinon
Remarque 4.3.
On rappelle qu'une suite de fonctions
(Fn:H~ ,n~}
est dite équi-semi-continue-inférieurernent si :
\\jE> 0 ,
3ve ru-e x ) , 3HCN
tel que
'lin
EH,
inf F n (y) ;,
F
(x)
-
E
n
yEV
où t1 F
est la fonction définie par
e n
(ii F ) (x)
~ min {lim F
(x )
1ixEH
e n
n
n
n
Aussi,
une condition suffisante pour que les deux ensembles
2
2
-
"
3 f(x,y )
et a f(x,y·)
colncident est que la suite de quotients
e
différentiels
A
( )
1 [f(X+t.)-f(X)
"
]
-
" t ·
~t
t
- < y , . >
x,y ,
soit équi-semi -continue inférieurement lorsque t+O,
puisque dans
ce cas,
la limite supérieure et l'épi-limite supérieure coïncident
(cf. [13]
et [1])
i
c· est-à-dire :
- f " ( - "
)
:::
x , y ; .

---

-
37 -
Plus précisément, on peut faire la remarque
suivante
Remargue 4.4.
Soit f
:
H +mv{+œ} une fonction convexe s.c.i.
-
propre, et soit
(x,y.. ) appartenant au graphe du sous-différentiel
af. Les assertions suivantes sont équivalentes
..
il
I~ Cx, y•; . ) = Cl[ f"tx,y ; • ) 1
2
-
•
2
-
•
ii)
'ef(x,y )
= a f(x,y )
Démonstration
Il suffit de remarquer qu'on a toujours
Cl[ 1 f" (x,y'·;.) 1
= IC1(f"(x,y·;.) 1
Ensuite on applique le résultat bien connu selon
lequel deux ensembles convexes fermés non vides coïncident si et
seulement si leur fonction support coïncident.
Remarque 4.5.
n
Soit f
.
: JR
-+- JR,
une fonction convexe,
et soit
-
(x,y ) appartenant au graphe du sous-différentiel af.
-
-
Si la fonction h -+- f"(x,y.;h) est â valeurs finies, alors
"
.
-
.r:"{x,y ;.)
= -f" ( _ .
)
x, y i .
e
Démonstration.
Il suffit de remarquer que dans ce cas,
la suite
de quotients différentiels A=
•
(.)
converge simplement,
par
x, y 1 t
suite uniformément sur toutes les parties bornées de mn .

---

-
38
-
2
Quelques exemples simples où a; f et d f coïncident
Exemple 4. l .
2
-
2
Soi t
H =:IR ,
x =
(0,0)
et f
:lR
+lR
définie par
2
2
f (x)
= max 1
xl
+
x
+
a
:
2
xl' a }
On
af (x)
= Co
1 (l, 0), (0,0) ) =
CO, l] x 10)
Si on prend x " = (0,0) E af(x), on a
si hl >
a
si hl = 0
si hl
<
0
Soit h = (h ,h ) tel que hl < 0, on a
:
l
2
lf
0'" Vi" (x,x"~h)
'"
Vfit (x,x 1h) (; a
e
Si hl > 0, pour toute suite h
= (h;, h~) +
t
hi
> 0
pour t
suffisamment petit.
Par conséquent, on a
:
vf" (x x"'h) =
e
'
,
+ =
Si hl = 0, on a également
,f f"(x x*'h)
= 0
y
e
'
,
t
Il suffit en effet de remarquer que pour une suite
(h1)t qui tend
vers hl = 0, telle que
t
h l
lim t
=_00
uO
On a
:
t
max
+
(th~)2 + th , 0)
l
lim
= 0
UO
Clest-~-dire : 0 '" fn (x x.
-
-
-hl" 0
e
'
,

---

-
39 -
On vérifie alors sans difficulté que
Vi" (x,x·;.) ~ Cl! 1/ f" (x,x·;.)]
e
où Cl[V f"(x,x·~.)]
désigne la fermeture de la fonction
h
V
+
f'·(~,x·;h).
Par conséquent, on a
:
2
-
*
2
-
•
Clef<x,x)
= a flx,x ) = lR+ x {a}
Si on prend x·;::
0,0) E atCx), on a
De même,
pour hl
< 0,
et pour toute suite ht=(hi/h~)
t
qui tend vers h =
(h ,h ), on a
hl < 0,
pour t
suffisamment petit;
1
2
que t: I~
.
-
ce qui entraine
(x,x ;h)
= +00
.Si hl ~
0,
alors, pour
toute suite h
:
(nI'
h
)
tendant vers h=(h
,h ), on a
:
t
2
1
2
maX«th~)2+(th~)2+th~,a)-th~
2
t
Par conséquent, on a
:
On peut donc conclure que
2
pour tout
hGR
Par conséquent, on a
:
2-.2-~(
2 2 2
aef(x,x )=a
f(x,x)=
(h"h?)EJl< I(h , ) +(h 2)
Si on prend x • El 0, l[X (a ) , on a
:
~ r h
si h, ~ a
I
2 1
Vf"(x,x•; h) Loo si h, t- a

---

-
40
-
De même,
on a
:
v
2
f" (x x-·h)
=V f" <x,x*;h)
pour tout hEJR
e
'
,
Par conséquent,
on a
:
2
-
*
2
-
~
def(x,x )
~ d f(x,x ) ~ lR x [-l,Il
Exemple
4, 2 .
Soit f
~
i . U la norme euclidienne dans H =m n et
n
x ~ O. Donc dt (x)· ~ B ~ {X*E3R
/
Ix"\\
<;
1
}
• On a
:
2
-
~
n
= d f(x,x ) ~ lR
pour tout
"
x
E
-
af(x)
tel que lx"~ < 1
Si Ix-II = l, on a :
-f" (-x
"
)
-
-
== f"{x/x "
1 X
; .
;.)
=
e
Par conséquent, on a
:
2 - . 2 - .
n
*
def(x,x ) ~ d f(x,x ) ~ (heR
/
<x
,h> <; 0
)
Exemple
4.3.
Lorsque f
H ~ m
est une fonction polyédrale,
c'est-à-dire définie par
f(x)
=
"
max{<a. ,x>
-
c.}
l~i~m
~
1
-
r
•
-
avec
et CiGR-.
On sait que af{x)= Co
\\ai/iEI(X)
)
" -
oü l (x)
=
{i /
f(x)
=
<ai' x>
- ci}
et Co {a~ /
iEI(x)} désigne
le convexe engendrê par l'ensemble {a~ /
iEI (x)}
. On démontre
sans difficulté
que
-
-
fil (x,x " ;.)
= 1jJ
•
(.)
Nat (x) (x )

---

-
41 -
Aussi,
pour tout hENdf (x) (x'" l, on a
a c;;
-..
f~(x,x
;h)
C;;
fil
.
-
- -(x,x rh) = a
..
..
Lorsque h ~ Naf(xfx ), On peut trouver y
eaf(x)
tel que l'inégalité suivante ait lieu:
<h,x·> < <h,y*">
Aussi,
pour toute suite h
+
h,
on a
:
<ht,x·> < <ht,y*>
pour t
suffi-
t
samment petit.
Par conséquent, on a que : f~(x,X·;h) = +00
c'est-
- -.
-
-
...
~-dire : f~(x/x ;h)
=
fil (x,x
ih).
Par suite,
on a
2
-
..
a
2
-
•
...
f(x,x ) = a f(x,x ) = T
) (x )
e
aflx
OÜ Taf(x) ex·)
désigne le cône tangent de af(x)
au point x·
Exemple 4.4
Lorsque f
=
~c est la fonction indicatrice d'un
ensemble convexe fermé non vide de H,
pour xeC,
on a
:
.. -
Si xEC et x 'ENC(x), on a
:
w"c(i{,x"';.1
~ wYc(x) nKer x"I.)
oi!
YC (x)
= {hEH 1 3 t > 0
x + thEC
Vt E [O,t]}
et
Ker x "
{hEH
1
=
<x", h> = 0 }
Dans ce cas aussi,
on vérifie sans difficulté que
(wc)~(x, x ";. )=CJ!"ijJë1x,x"; .)]
Par conséquent,
on a
:
2
- "
2
-
..
[ y c ex) nKer x*]+
aewc(x,x )e' a wc(x,x )
=
..
oi! [ y c (x)
x*] +
n ker
désigne l'ensemble
{
"'EH
y
•
I<y
<;
,y>
0,
Vy E Y~ (xl n ker x " )
- I I
-
~
*Le calcul des
f
(x,x;.)
dans
les exemples précédents 1
e5~ présenté
dans
[22]

---

-
42 -
Commentaire
Il ressort de ce qui précède que l'épi-dérivée di-
rectionnelle du second ordre supérieur mène aussi bien à la dérivée
seconde au sens d'Hiriart-Urruty,
qu'à la dérivée seconde au sens
de Rockafellar. Lorsque f~ (x, y.; .) = Cl (f" ex, y.; .) ) (par exemple si
la suite des quotients différentiels
est équi-semi-continue inférieurement1
les deux approches de dérivéE
seconde citées plus haut coïncident, dans le sens que l'hypothèse
de régularité de
af au point x, relativement à y., traduit simple-
2
-
"
ment que a f(x,y ) a pour fonction support, une semi-norme, et que
cette semi-norme dérive d'un produit scalaire.

---

-
43 -
5. Règles de calcul de la dérivée seconde au sens de Rockafellar
Soit f
:
H +~ ~{+oo}
une fonction convexe s.c.i.
propre. Vérifier la régularité de l'opérateur sous-différentiel
af
de f
~ partir de la définition 1-2, peut être une tache assez lourde.
Lorsque f
est construite ~ partir d'autres fonctions convexes s.c.i.
propres {fi liEI l, cette tâche peut être allégée si on sait véri-
fier la régularité des sous-différentiels of
des fonctions compo-
i
santes, comme dans les cas suivants
:
5.1 Composition avec une application affine
On considère V et H deux espaces de Hilbert réels,
f :
H +lRU{+Oll} une fonction convexe s.c.i.
prop-re, A
-:
V -+ H,
o
une application linéaire,
surjective et continue,
et b un élément
quelconque de H.
Pour tout xEV,
on pose
Ax=Ax+b
o
Sous ces hypothèses, on sait que foA est convexe
s.c.i. propre sur V et l'égalité suivante est réalisée:
a (foA) (x)
pour tout xEV
où
désigne l'adjoint de A .
o
Proposition 5.1
-
;>
Soit
(Ax,y )Eaf tel que
af soit régulier au point
Ax relativement â y •.
-
;>
~
Alors a (foA)
est régulier au point x relati~ement à A
y
Dans
o
(-f- ) "
(-
•
~
)
ce cas,
oA
x,A y ;.
est une forme quadratique généralisée
e
o ·
convexe telle que :
_
.lF-.
-
-
•
(foA) "
(xrA~y ;.)
= f"CAx,y ;.) 0 A
e
v
e
o
De plus, on a

---

-
44 -
Démonstration
Si on pose
(fOA) (x+t.) - (foA)
A foA
( .)
=
-
.. *
x,AoY , t
on remarque que
t foA
(
)
= (A f
• p.,.) (. )
1 _
~...
&
-
Ax,y ..
x,AoY , t
, t
où
f
-
-
f(Ax+t.)-f(Ax)-t<y ..
A
(.)
,.>
=
-
..
2
Ax,y , t
t
..
Dire que af est régulier au point Ax relativement à y
revient â
f
dire qu'il existe une forme quadratique généralisée convexe qAX
~
f
obtenue comme Moseo limite des quotients différentiels A _
•
t:}
Ax,y ,t
f
-
- *
10r sque t"" a . q -
..
(.) coïncide alors avec f~(Ax,y f').
Ax,y 1
Aussi, A étant affine continue et surjective,
la convergence au
-
-
*
sens de Mosco de h f
..
(.)
vers f~(Ax,y ;.)
lorsque t,,"O, entraine
Ax,y , t
-
-
..
la convergence au sens de Mosco de
• f
A
ll.
~
0
0
ver 5
f e (Ax, y ;.) DAo
Ax,y
f t
lorsque t.j.O.
Par conséquênt
converge au sens de Mosco vers
..
-
-
f" (Ax y •• )oA
d'où l'égalité
e
"
0
-
...
-
-
..
(fOA)~
(X,AoY i.)
~ f~(AX,y ;.)0 Ao
D'autre part,
on a
a~(fOA) (X,A~Y") = a( V(fOA)~(X,A~Y";.» (0)= a[v'i~(AX,y*;')OAoJ (0)
•

---

-
45 -
5.2. Somme de fonctions
Etant donné f
et 9 deux fonctions convexes s.c.i.
propres définies sur H et à valeurs dans mU{+~} , on sait que
ai (x)
+ ,g (x) C ,(f+g) (x)
pour tout xEH
Aussi,
si on considère Y~.Eaf(x) et y;Eag(x)tels que af (resp. og)
soit régulier au point x relativement a Y~ (resp. y;), on n'a pas
nécessairement que a(f+g)
est régulier au point x relativement a
Y~ + y; . L'une des raisons étant que la somme de deux suites de
fonctions qui convergent chacune au sens de Mosco,
ne converge pas
nécessairement au sens de Mosco
(cf. r 5}
). L'objet de la proposi-
tion suivante est de donner une condition suffisante de régularité
de à (f+gl
au point x relativement à Y~ + y;
Proposition 5.2
On suppose que
1)
ai est régulier au point x relativement â
*
Y1
2)
,g est régulier au point x relativement à
*
Y2
-
*
g(x+tu ) -g(x) -t<Y2'u i>
3)
( 3 r > 0) (VuES (0)
(Hm
) < +0::> )
r
2
uo
t
Alors,
a (f+g) est régulier au point x relativement à Y~ + y;. Dans
ce casJ(f+g}~
-
(x'Y * +
*
Yi-lest une forme quadratique généralisée
I
convexe telle que :
j
• )
De plus,
si on pose ql = V f;(X,y~;.)
q2 -
V g;(x,y~;.)
et si
on suppose qu'au moins une des hypothèses suivantes est vérifiée :
Hl'
D(ql)-D(q2)
contient un voisinage de l'origine
H .
H est de dimension finie,
ql et q2 sont polyédrales
2
On a alors l'inclusion:

---

-
46 -
Démonstration
On pose
:
f(x+t.)-f(x)- t<y" ,·>
f
1
A_
"
(.)
=
2
x,y1,t
t
•
g
g (x+t.) -g (x) -
t<Y2' .>
A-
~ t ( .) =
x'Y2'
Pour tout uEBr(O), on a
:
lim A~
~
(u)
< + w
t-l-O
x'Y2,t
et
-
f
lim A_
~
(0)
= 0
t{-O
x,y1,t
Aussi,
puisque
A:
•
(.)
converge au sens de Mosco
x,y1,t
-f" (-
vers
e
*
x,~ ;.), et que Ag
(.)
converge au sens de Mosco vers
-
~
-
-
x'Y2,t
..
g~{x'Yi ;.), on est dans les conditions d'application du résultat
(cf.théorème 4-1 [5]
)
sur la convergence d'une somme de deux
suites de fonctions qui chacune converge au sens de Mosco.
Alor~
A~+g~ *(.) converge au sens de Mosco vers I~(X'Y~i.}+g~(x,y~;.)
x'Yl+Y2
on a
Les hypothèses H ,H
de la proposition précédente permettent d'af-
1
2
firmer que aQl(O)+ aQ2(O)
=
3 (ql+q2) (0).
On obtient alors l'inclu-
sion
a~(f+g)
Remarque 5. 1
La proposition 5-1 reste vraie lorsqu'on remplace
l'hypothèse de surjectivité de A par l'hypothèse suivante:

---

-
47 -
( 3 r>O)
(VUEB
(0)
(3(h )t et
(kt)t 1 U=A(ht)+k
pour tout
t>O
)
r
t
t
avec
(h )
et
(kt)
bornées,
telles que s~p Af _
*
(kt)
< +œ
t
Ax,y , t
(cf.AZE [5 J).
Remarque 5. 2
La proposition 5-2 peut s'étendre au cas des n fonc-
tions convexes s.e.i. propres, avec n:>~. .- ·II: ce~Aerr-t...:ftans-cè.cas -.-
de faire des hypothèses qui assurent la convergence au sens de
Mosco de la somme de n suites de fonctions qui chacune converge au
sens de Mosco
(cf. AZE [5]
).
5.3. Somme d'une fonction convexe et d'une fonction deux fois
Fréchet-dérivable.
Soit f
: H -+ lRuft o:>}
une fonction convexe s.c.i.
propre et soit g :
H +m une fonction deux fois Fréchet-dérivable.
La somme de f
et de g n'est pas "nécessairement convexe. Cependant,
sous l'hypothèse de régularité du sous-différentiel af de f, il est
possible de mettre en évidence une forme quadratique non nécessai-
rement convexe,
laquelle peut. s'iQterpréter comme la dérivée seconde
généralisée au sens de Rockafellar de f+g.
Proposi tion 5- 3.
Soit f
: H +~u{+~} convexe s.c.i. propre et soit
g
: H +m, deux fois Fréchet dérivable. Si pour
.
-
(x,y )Eaf,
af est
régulier au point x relativement à y*, alors
-
-
*
-
-f"(-
".
)
l
2
-
>= êpJ.'-lim
(f+g) (x+t.)-(f+g) (x)-t<y Hg(x),.
x'YI.~<'Vg(x).,.
2
e
t.j.Q
t
-
-
~
l
2 -
De plus,
f;(x,y ;.)~ < 'V g(x) . , . ) est une forme quadratique généra-
lisée non nécessairement convexe,
et peut s'interpréter comme la dé-
rivée seconde généralisée au sens de Rockafellar de
(f+g)
au point
x relativement à y.
-
.

---

-
48 -
Démonstration.
Elle repose sur le résultat suivant
Soit {F, F
: H ~Ë i nGN}
et soit {G, Go : H
n
+ m
; n~}
deux
suites de fonctions.
On suppose que
1) F
épi-converge vers F
n
2)
G
converge continument vers
G (c'est-c'l-dire,
pour tout élément
n
XEH,
et pour toute suite
(x ) d'éléments de H qui converge vers x,
n
on a que
~ (X ) converge vers G(x».
n
Alors
(Fn+G )
épi-converge vers F+G.
n
Corollaire 5-1.
Si SOUs les hypothèses de la pro~osition 5-3, on
pose
aA~+g" (.) = 'i[ af(x+t.)+ ?g(x+t.)-(y*+og(x»]
x 1 y
, t
Alors,
la double égalité suivante a lieu
-
-
~
2 -
[al f:(x,y ;.U+? g(x)j=
= lim a.I~+g*
HO
x, y , t
Eh d'autres termes,
la suite d'opérateur
aAf+g
-
converge au
x, y * , t
-
-
*
sens des graphes vers
(
2 -
a[f"(x,y ;.)J+ 9 g(x»
lorsque t~O.
e
Démonstration.
Elle repose essentiellement sur le fait que,
sous
l'hypothèse de régularité de
af au point x relativement à y*, la
l
-
suite d'opérateurs sous-différentiels aA_
•
( . ) = t {f(x+t.)-y*]
x,y , t
converge au sens des graphes vers l'opérateur sous-différentiel
-
-
a[f~(x,y" ;.)]lorsque t+O.

---

-
49
-
Remarque 5-3
-
- .
1 2 -
On ne peut espérer obtenir f;(x,y ;.)~ <V g{x) .,.>
comme Hosea-limite des quotients différentiels
f+g
-
-
*"
-
(f+g) (x+t.)-(f+g) (x)-t<y Hg(x) ,.>
A_
•
(.)
=
2
X, Y
, t
t
lorsque t.O,
pour la simple raison que la Mosco-l~ite est une
notion de convergence appropriée seulement au cas convexe,
(cf. Cl].)
Remarque $-4.
2
Des règles de calcul similaires pour a f(x,x·)
ont
été présentéesdans [15, 22J

---

- 50 -
.BIBLIOGRAPHIE.
[ 1]
H.ATTüUCH - Variational convergence for functions and operators
Pitman
(1984). Applicable Math.Series.
[2]
J.P.AUBIN - Analyse non linéaire et ses motivations économiques
Masson
(1984).
[ 3]
J .P.AUBIN -
"Lipschitz behavior of solutions ta COnvex minimi-
zations problems".
Maths of oper.Research 9
(1984)
87-111.
[ 4 ]
J.P.AUBIN and I.EKELAND - Applied nonlinear analysis
Wiley Interscience New-York
(1984).
15 1 H.ATTüUCH - D.AZE - R. WETS - Convergence of convex-concave
saddle functions
: continuity properties of the
Legendre-Fenchel transform with applications ta
convex programming and mechanics.
Publications Avamac, Univ.de Perpignan, n08S-0B.
[6 ] V.BARBU - Nonlinear semigroups and differential equations in
Banach spaces.
Noordhoff
(1976).
[7
G.BOULIGAND - Introduction à la géométrie infinitésimale directe.
Gauthiers Villars
(1932).
[8 ]
H.BREZIS - Opérateurs maximaux monotones et semi-groupes de
contractions dans les espaces de Hilbert.
North Holland
(1973).
[9
F.H.CLARKE -
"Generalized gradients and applications".
Trans.Amer.Maths.Soc.205
(1975)
247-262.
UO
F.H.CLARKE - Nonsmooth Analysis and optimization.
Wiley - Interscience (1983).
[Il ] B.CORNET -
IIRegularity properties of normal and tangent cones"
à paraître.
[12
J.DIEUDONNE - Eléments dlanalyse tome 1.
Gauthièr-Villars
(1979).
[13 ]
S.DOLECKI - G.SALINETTI - R.WETS -
"Convergence of functions
Equi-sernicontinuity".
trans.Amer. Maths Soc.27G
(1983)
409-42~.
(14 ] J .B.HIRIART-URRUTY -
l'A new set-valued second order derivative
for convex functions".
Preprint Lab.d'analyse numérique,
Univ.Paul Sabatier,
Toulouse
(1985).
[15 1 J. B. HIRIART-URRUTY - A. SEEGER -"Calculus rules on a nex set-
valued second order derivative for convex functions".
Preprint Lab.d'Analyse Numérique,
Univ.Paul Sabatier,
Toulouse
(1985).

---

-
5 l
-
[16}
M.L.MAZURE - Analyse variationnelle des formes quadratiques
convexes.
Thèse Univ.Paul Sabatier - Toulouse
(1986).
[ 17]
"
F. MIGNOT - ContrOle dans les inéquations variationnelles
elliptiques :'
J.Functional Anal,
(1976)
130-185 .
•
[18]
J.P.PENOT
- Generalized higher - arder derivates and higher
arder optimality conditions~
Preprint (1985)
Unlv.de Pau.
[19]
R.T.ROCKAFELLAR - Convex analysis
Princeton Univ.Press Princeton (1970)
[20 1
R.T.ROCKAFELLAR
"
- Maximal monotone relations and the second
derivates of nonsmooth
functions n •
Ann.Institut poincaré 2
(1985)
pp.167-184
[21]
L.SCHWARTZ ~ Topologie générale et analyse fonctionnelle.
Hermann. (1970)
[221
A.SEEGER
Analyse du second ordre de problèmes non-
différentiables.
Thèse Univ.
Paul Sabatier - Toulouse
(1986).
[231
S.MAURY
-
Formes quadratiques généralisées.
Comptes-rendus,
271-Série A,lû54,lû57,
(1970).

---

Chapitre
I I
Condition nécessaire d'optimalité du premier ordre
pour des problèmes de contrOle optimal d'inéquations variationnelles

---

-
52
-
INTRODUCTION
Le problème suivant se trouve à l'origine de
ce travail!
Etablir une condition nécessaire d'optimalité
du premier ordre,
pour des problèmes de contrOle optimal d'inéqua-
tions variationnelles, de la forme:
cs
minimiser la fonction
9 (y)
+ h(u)
(0-1)
sur l'ensemble des couples
(y/u)
assujettis à
l'équation
Ay + "'1(yJ";lBU + f.
(O-2)
U, V,
et H étant des espaces de Hilbert réels,
on désigne ici par 9 : H---~,
une fonction localement lipschit-
zienne
, h : U __ ~u {+<X>}
une fonction convexe s.c.i.
(semi-
continue inférieurement),
propr~, et a~
le sous-différentiel au
sens de l'analyse convexe de la fonction convexe s.c.ï. propre
~ : V ---->m U {+oo} • V' étant le dual topologique de V, les
opérateurs A : V --->V '
et B : U ---->V·
sont linéaires et continus.
cet effet, V.Barbu
(cf. §3-2 [6]
) considêre
une famille
de problèmes "approchés" de
Cii de la forme :
flj
: minimiser la fone tion
€
9
(y)
+ h
(u)
(0-3)
€
€
sur l'ensemble des couples
(y,u)
assujettis à l'équation
Ay + Q~
(y)
= Bu + f
(0-4)
€
oü g
: H --~ffi
et h
U --> m
désignent des approximations de
€
l
€
classe C
des fonctions g et h,
respectivement.
9~
désigne le
€
gradient de la fonction ~
V --> m, une approxLmation de classe
2
€
C
de la fonction ~
.

---

-
53 -
Etant donnée
(y , u ) une solution du problème
€
€
"approché" (l:Je:
' V.Barbu
(cf. Lemme 3.3 [61
) établit l'existence
d'un élément p
de V, vérifiant
€
-
A•P
(0-5 )
€
2
tel que la suite
1/ cp E:
(Y2)
Pe:
converge faiblement
lorsque
E
tend vers zéro. Ceci
l'amène
(cf,,§3-2{ 6])à se demander
2
,
d'une part, si la limite faible de ~ ~e:{Ye:)Pe: ' lorsque e: tend ver
zéro,
ne correspond pas, dans un certain sens, à une dérivée secon
de généralisée de la fonction convexe cp
,
et d'autre part,
s ' i l
est possible d'obtenir une écriture explicite de cette limite en
terme s de cp
•
Pour répondre aux questions soulevées ci-dessus
nous supposerons que les fonctions
cp
sont les approximations
€
Moreau-Yosida de la fonction convexe cp
•
L'absence de régularité
2
C
de ces approximations dans le cas général, nous amènera à rem-
placer ~2 ~E(YE) dans l'égalité (0-5) par D?~E(YE'~~E(YE )), qui
n'est rien d'autre que la dérivée contingente au sens de J.P.Aubin
(cf.sec.2, définition 1(4]
de 'iNE
au point
(Y '
~~E(YE».
E
Aussi, étudierons-nous dans la première partie
de ce travail,
le problème suivant: étant données F : -H ~ ~{~}
une fonction convexe s.c.i. propre, et
(F)
0
la famille des
€
p
approximations Moreau-Yosida de F, sous quelles hypothèses la
dérivée contingente DaF(x,y)
s'obtient-elle comme limite au sens
des graphes de la suite des dérivées contingentes D~FE(XE' ~FE{XE)
lorsque
(x , ~F (x»)
tend vers
(x,y)
?
La réponse à cette ques-
€
€
€
tion nous permettra en particulier d'établir que l'épi-dérivée di-
rectionnelle du second ordre de F au point x,
relativement à y,
notée F"e(X,y ; .).
(cf.
R.T.Rockafellar [16]
),
peut s'obtenir com-
me limite au sens de Mosco de la suite des épi-dérivées direction-
nelles du second ordre
(F )lO
(x , ~FE(xE)
;
.)
lorsque
(XE,~FE(XE):
E
e
E
tend vers
(x, y).

---

-
54 -
Dans la seconde paztie de ce travail,
nous
établirons une condition nécessaire d'optLmalité du premier ordre,
relative au problème ~ , fondée sur le concept
de dérivée con-
tingente au sens de J.P.Aubin. Notre approche reposera d!une part,
sur le résultat da à Attouch
(cf.
théorème 3-66 [ Il
concernant
le lien entre la convergence au sens de Mosco
dlune suite de fonc-
tions convexes, et la convergence ~u sens des graphes de la suite
des sous-différentiels associée, et d'autre part,
sur les proprié-
tés de convezgence des suites de dérivées contingentes au sens de
J.P.Aubin,
étudiées dans la première partie de ce travail. Plus
précisément,
nous supposerons que la fonction g est de classe cl,
et pour toute solution
(y.,
u·)
du problème ~
nous établirons
l'existence d'un élément p* de v,
pour lequel les assertions sui-
vantes sont réalisées
:
~
1)
Ay
+ a~(y~ );lBu" + f
" "
"
*
'*
'*
'*
2)
-A P -
Gg(y ) E D a~(y ,Bu -Ay +f)p
3)
B*p* E
;Jh (u")
où D êllp(Y" ,Bu"
AY*+f)
désignera la dérivée contingente au sens
de J.P.Aubin,
du sous-différentiel dlp de lp
,
au point
{y'*,BU'*-AY*+f
PLAN
§l
Rappels et généralités
§2
: Convergence au sens des graphes des suites
de dérivées contingentes.
§3
Condition nécessaiIe d'opt~alité du pre-
mier ordre pour des problèmes de contrOle
optimal d'inéquation variationnelles.

---

-
55 -
§1.
RAPPELS ET GENERALITES.
1.1
Dérivée contingente et dérivée tangente du sous-
différentiel d'une fonction convexe.
Soit H un espace de Hilbert réel muni du pro-
duit scalaire
<,>
et de la norme 1.1
• On considère F : H~U{+~}
une fonction convexe,
s.c.i.
(semi-continue inférieurement), pro-
pre (F ~ +~ ), et
3F son sous-différentiel au sens de l'analyse
convexe.
Pour étendre l'opération de sous-différentiation de F
~ 3F, l'approche initiée par J.P.Aubin dans [2 ; 4]
consiste ~
considérer plusieurs types de cOnes tangents au graphe de 3F,
puis de les regarder comme des graphes d'opérateurs dérivés. Un
intérêt particulier a é~é porté ~ l'étude des cOnes tangents de
Clarke et les cOnes contingents
(ou tangent aux sens de Bouligand),
par R.T.Rockafellar (16)
pour introduire un concept nouveau de dé-'
rivée seconde généralisée relatif ~ux fonctions convexes, et par
J.P.Aubin (3)
pour obtenir la stabilité lipschitzienne des solu-
tions optimales d'une classe paramétrée de problèmes d'optimisatioI
convexe.
Définitions 1.1.1, [41
Etant donné
(x,y) E oF, on appelle dérivée con-
tingente de
oF au point (x,y), l'opérateur noté DoF(x,y) dont le
graphe colncide avec le cOne contingent du graphe de oF, au point
(x,y). En d'autres termes,
selon J.~.Aubin, DoF(x,y)
se définit
comme suit
l
l
D3F(X,y)
= lim h[3F-(X,Y)1 := ()
n
u
[h(3F-(x,Y))+EB]
MO
00
a >0
O<h<C1
oü
€B
désigne la boule de centre l'origine et de rayon €
dans HxH.
De même, on appelle dérivée tangente de oF au
point
(x,y), l'opérateur noté CoF(x,y)
dont le graphe colncide
avec le cOne tangent de Clarke au graphe de aF,
au point (x,y).
En d'autres termes,
toujours selon J.P.Aubin [2
;
41
, CaF(x,y)
se définit comme s u i t :

---

-
56
-
l
1
CaF(X,y)
jî! aF-(u,V)]:= n
U
n
[h(aF-(u,V»
+ EB],
00
={~~
ct,B>O O<h<a.
(U,V) dF>{X,y}
1u-xi <6
IV-YI<6
(u,v) E aF
aF
où (u,v) --->{x,y)
signifie que
(u,v)
tend vers
(x,y)
en restant
dans le graphe de
'aF.
Dans [4]
,
J .P.Aubin donne plusieurs défini-
tions équivalentes de la dérivée contingente et de la dérivée tan-
gente d'un opérateur
(multivoque)
quelconque dont le graphe est
dans HxH. Nous en rappelons ici quelques unes,
lorsque l'opérateur
considéré est le sous-différentiel d'Une fonction convexe:
PROPOSITION 1.1.2, [4
; 8
; 14] .
Soit
aF le sous-différentiel d'une fonction
convexe,
s.c.i., propre F : H +lRu {+oo}
et soit
(x,y) E "F. Les
assertions suivantes sont équivalentes
(i)
(U,V)ED3F(x,y)
(ii)
vELim al (x+hw) -y
MO
h
w+U
(iii)
3 h +0
j li +u, 3v
-+-
V
/
n
'
n
n
y+h v
E aF(x+h li ) 1 Yn~
n n
n n
PROPOSITION 1. 1. 3, [4
; 8
;
14J
Soit
aF le sous-différentiel d'une fonction
convexe,
s. c. i . , propre F
H -+ 1R U {+oo}
, et soit
(x, y) E aF. Les
assertions suivantes sont équivalentes
(i)
(u,vi
E CaF(x,y)

---

-
57
-
(ii)
Vh
{.Q 1
Vx -+K, 'Iy "t'If, !lu -+U
lv ~v
/
n
n
n
n
n
y +h v
E a F (x +h u
) Vn'ON
n
n n
n
n n
(Hi)
sup
in!
sup
. !
d(
:3F{x'+tw)-y')'
1n
v,
t
E;>O
0,6>0
Ix'-xl<a
Iw-ul<E
Iy'-yl<a
(x 1 , yi) E (IF
tE JO, BI
:3F(XI+tW)_Y'
d( v,
t
) désigne ici la distance dans H du point v
llF(x'+tw)-y'
~ l'ensemble
t
:3F ex '+tw) _yi)
=
d (v,
in! fi v-z 1)
ZE :3F (x 1 +tw) -y
t
t
1.2
Convergence au sens des graphes des suites d'opé-
rateurs
(multivoques).
~
Etant donné A : H -+ H un opérateur
(multivoque)
de H dans H ; c'est-à-dire une application de H dans G(R) 1
l'en-
semble des parties de H,
le graphe de A se définit comme suit :
G(A)
: ~ {(x,y)EHXH /
yEAx ) .
Uans la suite, nous identifierons un opérateur
(multivoque)
à son graphe.
~
Etant donnée {A
: H ~ H
ra>}
une suite
n
d'opérateurs de H dans H,
on définit
s-s Lim A
'= {(X,y)EHxH/ '!(x
'
Yn )~,
, y E A
x
n
n k
k ~'
n k n k n k
n#m
x
_ _
s_>x
s
y
- > y}
n
n
k
k
s-s
y EA x
n
n n
s
s
VnElN
x _ _> x
, y n _-.::...-> y
}
n

---

-
58 -
s-w Lim An
~
{ (x,y)EHxH 1 3 (xn 'Yn ) kElN Y EA x
n
n
n++""
k
k
k
n k k
s
w
V!<ElN
}
, x
>x
,
Y
>Y
n
n
k
k
$-W Lim A
= {(x,y)EHxH 1 1 (x ,y ) =.
y EA x
- -
n
n
n n-.....u.~
n
n n
n-.+ oo
s
VnGN , x
w
>y}
n---> x
1
Yu
Les inclusions suivantes sont évidentes
s-s tiIn A
C s-s Lim A
C
- -
n
n
n++co
n++w
s-s Lim A
C
s-w
s-w
-
n
n..... +w
D'où la définition suivante:
DEFINITION 1.2.1.
On dira que la suite d'opérateurs
(multivoques)
{A
} converge au sens des graphes vers l'opérateur
n
A :
H :
H,
dans H
x Hw
(resp.
H
x H ) si la double inclusion
s
s
s
suivante a lieu
A C
A c
s-w Lim
n
n++oo
(resp.
5-5
Lim A
CAC 5-5 Lim A
n.....+
- - -
n
w
n
n.....+""
où Hw
(resp. H ) désigne l'espace H muni de la tcpologie faible
s
(resp. forte) .
On observe à travers la définition précédente
que la convergence au sens des graphes de la suite d'opérateurs
(multivoques)
{An: H ~ H
i
n~}
n'est rien d'autre que la con-
vergence au sens de Kuratowski
(cf. définition 1-31 [ 1]) de la
suite d'ensembles
[G(AhJ
C HxH
;
nGN } ,
dans le cas métrisable.

---

-
59
-
1.3
ApproxLffiations Moreau-Yosida d'une fonction convexe
Soit F : H ~mu{+oo} une fonction convexe s.c.i
propre. Pour tout €
>
0,
l'approximation Moreau-Yosida de F,
de
paramètre €
,
est la fonction FE
: H ~m/déIinie comme suit [12l
2
F
(x)
= min (F(y) +...!.. ly-x I }
VxEH.
<
2<
)
yEH
La fonction FE
: H ~m
est convexe et de
classe Cl. De plus,
elle jouit des propriétés suivantes
(cf.
[ 1 ; 5 ; 9 ] )
1 )
L'application y ~ VFt(y) est lipschitzienne
de rapport ..!
<
IVF (x)
-
VF
(y)l< !Iy-xi
Vy,xEH
<
<
<
1
2)
VF
coïncide avec l'approximation Yosida de
<
paramètre E: de l'opérateur maximal monotone
aF:
1
= - (1 - J )
<
< '
OÙ JE:
:=(I + E:dF)-l désigne la résolvante de paramètre E de
dF.
3)
L'application x ~ JE(x)
est une contraction
ferme
2
IJ
(x)-J
(y)1
« J
(x)-J
(y),x-y>/vx,yEH.
E:
E:
E:
E
4)
Pour tout xEH,
l'inclusion suivante a lieu:
VF
(x) C 3F
(J
(x».
<
<
5)
Pour tout xeD(F),
l'assertion suivante a lieu
lim J
(x)
= X
<+0
<

---

-
60
-
Dans la suite,
nous aurons également besoin
des propriétés suivantes de la famille
(Fe:)e:>O des approximations
Moreau-Yosida de F [1 ;
12]
6)
Pour
tout xEH,
(Fe: (x»
E:>O
croit vers F(X)
F(x)
= sup F (x)
E:>O
E"
7)
~F€ converge au sens des graphes vers aF dans
H xH
: ~F
G(s-S»aF.
::;
5
E:
8)
VF converge au sens des graphes vers
aF dans
,
fi
x
H
:
w
5
G(w-s)
>aF
REMARQUE 1. 3 • 1.
On sait
(cf. (1)
) que lorsqu'il s'agit d'une
suite de fonctions monotones
la notion de convergence ponctuelle
J
(ou convergence simple), et celle d'épi-convergence coIncident.
Ce qui veut dire,
dans le cas de la famille
(Fe:)e:>O des approxi-
mations Moreau-Yosida de F, que les deux assertions suivantes ont
lieu [ Il
- -
0
(1)
VxEH, 3x~
5
>x /
lim F
(x ) "*-
F(x)
1
e:~O
e:
e:
5
(2 )
VxEH,
"x
>x
F (x)
<: lim F,(X,)
,
,+0
Plus précisément, on montre grace au théorème
2.4.2 que la famille
(F€)€~ des approx~ations Moreau-Yosida de
F, converge au sens de Mosco
(cf.
définition 2.4.1)
vers la fonc-
tion F [11

---

-
61 -
§2
CONVERGENCE AU S~NS DES GRAPHES DES SUITES
DE DERIVEES CONTINGENTES
Dans ce paragraphe,
nous nous intéressons ~ la
question suivante
: étant données F : H ~ mU(+œ} une fonction
convexe,
s.c.i, propre, et
(FS)E>O
la famille des approximations
Moreau-Yosida de F,
sous quelles hypothèses la dérivée contingente
D~F(x,y) s'obtient-elle comme limite au sens des graphes de la
suite des dérivées contingentes DVF
(x ,
VF
(x », lorsque
e:
e:
e::
e::
(XE'
VFe;(Xe;»
tend vers
(x,y)EaF C HxH
?
Pour répondre ~ cette question, commençons par
rappeler la définition suivante [ 41
DEFINITION 2.1.1.
Soit
(U,d)
un espace métrique, et soit X un
espace vectoriel normé. On dira qu'une multiapplication
G : uEU
~ G(u) c X est S.C.5.
(gemi-continue supérieurement)
au point u eU
si
o
Lim
G(u)
0= rl
n
U
[G(u)+ EB]
u+u
00
(1)0
d(u ,u)<a.
o
o
EB désigne ici la boule de centre l l or igine et de rayon E dans X.
On vérifie par ailleurs sans difficulté qu'un
élément v est dans
Lim
G tu)
u+uo
si et seulement si, i l existe une suite
(vn)TE~
d'éléments de X,
convergeant fortement vers v, et une suite
{un)nSN
d'éléments
de U, convergeant vers ua' telles que
• La notion précédente de semi-eontinuité super~eure est plus faible que
quecelle donn!ie p3r C.Berge dans [7]
.On vérifie en effet qu'une nniltiappli-
cation S.C.5. au-.. sens de Berge, est à fortiori s.c.s. au sens de la définition
2.1.1., mais que la réc1prcque n'est pas toujours vraie.

---

-
62 -
PROPOSITION 2.1.2.
Soit F
: H ~ mu{+oo} une fonction convexe
s~c.i. propre, et soit (F€)€>O
la famille des appro~imations
Moreau-Yosida de F. On suppose que la rnultiapplication
(X,y)EHXH ~ 03F(X,y)
est S.C.5.
au point
(x
,y )EàF C HxH
a
a
Alors,
pour toute suite
(x)
0 d'éléments
E E>
de H,
telle que la suite
(XE'
VF€(X€»€>O
converge vers
(xo'Yo)
dans H
x H
'
l'inclusion suivante a lieu
s
s
5-5
DVF (x , VF (x )) C DaF (x ,y ).
E E :
E €
0 0
DEMONSTRATION
Soit
(u,v)Es-s Lim DQF
(x
,VF
(x », alors
E+O
E:
E:
E:
E:
5
3(u
v
5
)
0 C HxH
/
U
--=c-_>u,
V
---"-->'l
E~ , E
]..1>
E~
l1
E~
(u
)EDVF
(x
) )
VIJ )- 0
•
E
E:~
~
E:~
Pour tout lJ > 0, d'après la définition de la
dérivée contingente
n
3 y
- - > u
>'l
E
+
n
n
0,
5
5
3u
3'l
/
E~
E:
E:
E:~
~
~
~
n
n
u
=
,
Y
V
Y
VnEJN.
V'FE]..l
(xE:
+ n
n
) -VF
(XE
)
E
E
E:~
E:~
E
~
~
~
~
~
En utilisant le fait que
VF
coincide avec
E
l'approximation Yosida de
aF
de paramètre E
,]..lon obtient
~
n _
VFE:
)+ n
+ n
V
e
un
(XE
aF(J
Y
(XE
Y
) ) .
E
E
E
E
E
~
~
~
~
~
~
~
~

---

-
63
-
Posons alors
,
n
et calculons
un
a
-
:
<~
<~
n
J
(x
+
) -J
(x
) -
y<
n
n
<
<
EU
El.!
a
- u
=
~
H
H
<
<
n
~
~
y<
~
IVF
(x
+ yn
un
)- VF,
(x
)1
<"
<
<
<
c
= _< '---'"'-----...JH"---~"-=_.e.~----"~-'_<l!~_
~
n
y<
~
=
-e:j.l
V~ll
Pour tout U > 0,
on obtient
+ 0
V
V
E
E~
~
~F
(x
)+
dF(J
)
VnE3N
<
E
~
~
E~
Ce qui signifie en d'autre termes:
+u
,v
)
VF
(x
))
V \\.1 > O.
E~
E~
El.!
Ej.l
Aussi,
puisque
(J€
(xe:
), 6Fe:
(xe: ))u>o
tend vers
(xo'Yo)
lorsque \\.1 + 0 , et que
(\\.I_e:
v~ + u.,.. \\.l, v~
)
tend vers
~
~
c~
~
(u,v)
lorsque II + 0,
la semi-continuité supérieure de la multi-appli"
cation
(x,y)
:
DaF(x,y)
au point
(x
,Y ), permet d'obtenir que
.
a
a
(u,v)
est un élément de DdF(xo'yo)

---

-
64 -
Contre exemple
2-1-3·
Prenons pour F la fonction valeur absolue
dem dans E. On sait que le sous-différentiel
aF de F est défini
comme suit:
si
x
< 0
{
-1
oF (x)
=
(-~,1]
si
x = 0
si
x > 0
y
l
aF
o
x
-------"""-1
On vérifie d'abord que la multiapplication
(x,y)
+ DâF(x,y)
n'est pas s.c.s au point
(0,1),
en remarquant
que pour toute suite
(x)
0 de nombres réels strictement positifs,
o 0 >
convergeant vers zéro en décroissant,
on a
(-l,
0)
E DaF(x
,
1)
V E:>O.
o
Cependant,
(-1,0)
ni appartient pas à la d~­
rivée contingente de
élF au point
(0,1),
puisque
DaF(O.1)
=IR+x
(Oju (O) xIR._
Pour tout
E:
> 0, l'approximation MOreau-Yosida de
paramètre E ,
de F est définie comme s u i t :
0
,
si
- x -
= { 2"
x
- 0
x 2
F orx)
si
lx 1 < 0
2""Ë
x
- 0
si
x .. 0
2"
- ~F
•
0
x
0

---

-
65 -
Aussi, pour toute suite
(x)
0 de nombres
< E>
réels strictement pasi tifs,
avec x.
,.. E:
et x
+ 0
<
< '
on vérifie sans difficulté que l'égalité suivante a
lieu:
(x • 9F
(x »
=JR x
{O}
•
<
<
<
Par conséquent, lim 09F
et
<+0
<
DàF(O,ll
ne sont pas comparables.
Remarque 2-1-4.
L'assertion suivante apparalt clairement
dans la démonstration de la proposition 2-1-2
:
Soit F : H +m U {+~} une fonction convexe
s.c.i. propre, et soit (F)
0 la famille des approximations Moreau-
< E>
Yosida de F. Pour toute suite
(xe::)E:>O
d'éléments de H,
telle que
la suite
(XE'
\\7FE.(Xe::)}
converge vers
(xo'Yo)
dans H
x
H
'
s
s
l'inclusion suivante a lieu:
s.s lim
09F
(x .9F
(x »
~ lim OaF(x,yJ
<+0
E
E
E
E
.'
(x.y)---'->(x ,y J
o
0
L'hypothèse de semi-continuité supérieure
de la multiapplication
(x,y) ~ DàF(x,y), au point (xo'Yo)'
s'avère alors
nécessaire
lorsqu'on désire que l'inclusion
ait lieu.
Définitions et remarques 2-1-5.
On définit :
w
s-w Lirn OaF{x,y) :={(U,V)EHxH/3un~>u,3vn_>V,
3 y __
s_>y
1
n o ,
(x,y)-lf> (xo'Yo)
(u ,v )EDaF(x ,y )
VnGN
}.
n
n
n
n

---

1
1
,
-
66 -
r
- -
w
W-g
Lim DClF(x,y):= {(U,V)EHXH/3un-->u, hn-_s>v, :3 X _s_>x, ;] y _ _
s>y 1
t
n
n
0
t.
(x,y)
of
(
)
> xo'Yo
VnEIN
}
•
La multiapplication
(x,y)
~ DClF(x,y)
sera
dite s.c.s. au point (x ,y ) E 8F, dans H
x H
(resp.H
x H )
si
o
0
s
W
W
5
s-w
Lim
Oé'!F(x,y) C
08F(X
'YO)
o
oF
(x,y)
> (Xo'YO)
(rèsp. W-g
Lim
08F(x,y)
C OClF(Xo'yo)
).
oF
lx,y)--> lx ,y )
o
0
Lorsque la multiapplication
(x,y)
~ DClF(x,y)
est s.c.s. au point
(xo'Yo)
dans Hg x Hw (resp. Hw x H )'
pour toute
s
suite (x)
0
d'éléments de H,
telle que la suite
(x ,VF
(x»)
0
EE>
E:
E
E t >
converge vers
(xo'Yo)
dans H
x H
'
l'inclusion suivante a lieu
s
s
DVF
(x ,VF
lx Il
C DoFlx ,y )
f : Ë
t E
0 0
(resp. W-g Lim
DVF
lx VF
lx ))
C DoF(x , y )).
".0
E E t E :
0 0
•
Ces assertions découlent directement de la remarque 2-1-4.
Etant données une fonction convexe s.c.i.
propre F : H +~
{+oo}
et
(FE)E >0 la famille des approximations
MOreau-Yasida de F, nous savons à présent sous quelles hypothèses
l'inclusion
s
- s
Lim
".0
a lieu. Aussi, afin d'obtenir DaF(x ,y ) comme limite au sens des
o
0
graphes des D~FE(XE' ~FE(XE»
lorsque
(XE,~Fs(XE)) tend vers (xo'Yo)'
i l nous reste à établir les conditions sous lesquelles l'inclusion
suivante a lieu

---

-
67 -
caF (x , y ) cs. s
lim
OQF, (x
,QF
lx »
o
0
0+0
c.
e:
e:
e:
A cet effet, commençons par donner quelques
exemples simples de situations oü OaF(Xo'Yo) s'obtient comme limite
a9 sens des graphes des D~Fe:(Xe:' ~Fe:(Xe:»' lorsque (XE' ~Fe:(Xe:»
tend vers (xc' Yo)'
Exemple 2-1-6·
On considère F : JR +:IR,
la fonction valeur
absolue delR dansJR.
Pour tout (0,
a) E cœ tel que 10.1 < l, on
vérifie
sans difficulté que la rnultiapplication <x,y) + DaF(x,y)
est s.C.s au point
(D,a).
De même, pour toute suite
(xE)e:>O
de
nombres réels, telle que la suite (XE' ~Fe:(xe:»e:>Q
converge vers
(O,a), la double inclusion suivante a lieu:
Lim OQF (x ,QF (x »c
OaF(O,Œ)
C lim OQF
(x
,QF
(x ».
e:
e:
e:
e:
e:
e:
E:
E:
t+O
0+0
y
-0
~ OQFo(Xo,QF X~»
= {(x,y)Em° 1 y
}
o
OaF(O,")
= {a} x:IR
Exemple 2-1-7.
On considère la fonction F
définie
par
si
Ixl" l
si
1xl > l

---

-
68 -
Le sous-différentiel
[IF de F est défini
comme suit :
.,p
si
Ixl > 1
aF(x) ~
) -00,0)
si x = -1
°
si Ixl < 1
[ O,+co[
si x = 1
ylt\\
aF
-1
x
1
Pour tout
(a,
0) E [IF tel que lai
< l ,
et
pour toute suite de nombres réels
(xE)E > 0
,
telles
que
(XE'
qp
(€»€
>
0
converge vers
(a
,
0),
la double inclusion
E
suivante a
lieu
OqF
(x
,qF
(x »
C OaF(a,O)
C Lim OqF
(x
,qF
(x
»).
é
<
<
<
E:
<.fa
E:
E:
E:
y
,
J
J
,
...:
-1
•
,
:OaF(a,O)~ x (O)
/
1
x
1
l '"-'1
•
,,
,
Remarque 2-1-8.
On considère la fonction F
JR -+ JR définie
par
si
~
1 x 1
1
F(x) = f °
+00
si 1 xl> 1

---

-
69 -
Soit (XE) E.>Q
une suite de rx:Inbres réels, telle que
xE.> 1, pour tout
E: > O.
Alors
:
DVF
(x
,VF
(x »)
=(O}XlR
(:
(:
E.
E:
et
DaF(l,O)
=lR
x
(O}U(O}xlR+
ne sont pas comparables. On vérifie d'ailleurs dans ce cas que la
multiapplication
(x,y)
~
DaF(x,y)
n'est pas s.c.s. au point (1,0) ..
2 • 2 •
Exemple dl une forme quadratique général'isée
convexe.
On appelle forme quadratique généralisée
convexe, toute fonction convexe s. c .. i.. propre q
: H ..... IR u {+co} dont
le domaine D(q) est 'un sous-espace vectoriel de H, et pour laquelle
iL existe une forme bilinéaire symétrique semi-définie positive:
L : D (q)
x
D (q)
..... IR,
telle que
q(h)
= L(h,h) 1
VhED (q) •
Les formes quadratiques généralisées convexes
n
(ou partiellement quadratiques) sur IR
sont exactement les fonctions
n
convexes q
: m
..... ::IR pour lesquelles le graphe du sous-différentiel
n
aq est un sous-espace vectoriel de IR
x]Rn
{11)
{16]
. Lorsque
la fonction q est définie sur un espace de Hilbert réel H quelconque,
une condition suffisante pour que q soit une forme quadratique géné-
ralisée convexe est que
dq soit de graphe linéaire dans HxH
[13]
proposition 2.2.1.
Soit q
: H ~IR u
{+~} une fonction convexe
s.c.i. propre dont le sous-différentiel dq est de graphe linéaire
dans H x H. Alors,
pour tout
(x,y)E aq,
la double égalité suivante
a lieu
Caq(x,y)
= Daq(x,y) ~ aq

---

-
70
-
Démonstration.
aq étant de graphe linéaire dans H x H,
le
cône tangent de Clarke au graphe de aq, et le cône contingent au
graphe de ag coïncident. D'oU l'égalité: Caq(x,y)
= Oaq(x,y).
Soit
(u,v)EOaq(x,y), alors:
3v
+
V
n
aq étant de graphe linéaire dans H x H, on obtient que pour tout
nGN,
(un,vn)E
3g. Par sUite, on a bien que
(u,v)
appartient au graphe
de ag,
puisque dg est de graphe fermé,
en tant qu'opérateur maximal
monotone sur H.
Soit
(u,v)Eaq.
Pour toute suite
(y ) ~T qui
n n_,
tend vers zéro en décroissant, on a
:
(Ynu, ynV) E aq pour tout nE;iN,
du fait que dg soit de graphe linéaire dans H x H.
De même,
on a
:
y
v
+ y
E
dg (x + y
u)
'in,""
n
n
Ce qui signifie que
(u,v)
E Daq(x,y).
Proposition 2.2.2.
Soi t
q
: JRn -r JR U {+o<>}
une forme quadratique
généralisée conveXe,
et soit
(q)
0 la famille des approximations
E
E>
Moreau-Yosida de q.
Pour toute suite
(XE)E>O d1éléments de H,
aq est obtenu comme limite au sens des graphes de la suite des dé-
rivées contingentes D9qE
(XE'
9qE(XE»
lorsque E tend vers zéro:
G
D9q
(x
,
9q
(x ))
-"---->aq
E:
E
E
e:

---

-
71 -
Démonstration.
Il suffi t
de remarquer que pour tout E: > 0,
Vq
coïncide avec l'approximation Yosida de paramètre E: de l'opé-
,
rateur maximal monotone dq :
-1
l
-
(1 + ,ag)
Aussi,
dq étant de graphe linéaire dans
n
m
xmn , i l en est de même pour
Vqe;' Ce qui entraine, d'après
la proposition 242.1, que : DVqe;(Xe:,qqe;(xe;)
= vqe;
D'autre part, on a vu dans 1-3 que
dq était obtenu comme limite
au sens des graphes des
Vqe;
,d'oü le résultat de la proposition
2-2-2.
En dimension infinie,
la proposition 2-2-2
s l écrit de la manière suivante:
Proposition 2-2-3.
501 t
q
: H ..;. lR U {+oo} .une fonction convexe
s.c.i. propre dont le sous-différentiel
dq est de graphe linéaire i
dans H x H, et soit
(q)
0
la famille des approximations Moreau-
. E:
e::>
Yosida de q.
Pour toute suite
(XE)E>O d'éléments de H,
les assertions suivantes ont lieu :
(il
aq est obtenu comme limite au sens des
graphes de la suite des dérivées contingentes DVqE(xE,VqE(XE))'
dans H
)( H
s
s
DUg (x
Ug (x Il G(s-s)
>ag
E
E'
E
E
'(ii)
-aq est obtenu comme limite au sens des graphe
de la suite des dérivées contingentes D V qE (XE'
VqE (XE))
dans Hw )(
DUg (x , Ug (x )) G(w-s)
>dg
E
E
E
E

---

-
72
-
Démonstration
Elle repose sur le fait que pour tout €: > 0
on a : DV'q~ (x
Il q
(x »)
= V'q
• Dans ce cas,
(i)
et
(ii)
expriment
,
<
<
G(s s)
<
G( w-s)
simplement que
V'q
,
>êlq,
et
\\lq
>êlq
,
(cf.[ 1}
<
<
Théorème 3-67).
2
2 • 3 •
Exemple d'une fonction de classe C ;
Proposition 2.3.1.
Soit F : H ~m
une fonction convexe de
2
classe C , et soit (F)
0
la famille des approximations Moreau-
< <>
Yosida de F.
Alors pour tout XoEH, et pour toute suite
(x)
0
d'éléments de H convergeant vers x ,
l'inclusion suivante
< <>
o
a
lieu
:
w-w Lim D~F (x , VF (x )) C
é~O
€:
E.
E.
€:
Démonstration
Soit
(u,v)
E w-w-lirn DVF
(x ,
VF
(x ))
E.
E.
E:
E.
<fO
w
--"-> li,
~>v/(u
,V
)ED\\7F
(x
V'F
(x
))V\\.l>O
E:j.l
E
ElJ
EU'
E
E\\J
•
ll
ll
Pour tout \\.l >0, d'après la définition de
la dérivée contingente, on a
\\/nElN.
Posons
n
J
{x
+ Y"
E
C
....
=
~
~
n
y~
Comme dans la démonstration de la proposition 2.1.2, on montre que
On obtient alors

---

-
73 -
n
n
VF (J
(x
+ y~ u )-VF(J
(XE»
e:~
E:~
e:~
e:~
~
En utilisant le fait que F est classe c 2 ,
on obtient :
avec
lim
= 0
n++co
La fonction x -+ Je:(x)
étant une contraction,
on obtient :
[a~
.. n
1
u E
~
~
D'oil l'égalité suivante
n
v
= V2 f (J E
(XE ) ) a~
+ [an
[ Rn
E
E~
E
~
~
~
~
~
Ce qui traduit que
converge faiblement vers
par suite, on a
THEOREME 2.3.2.
Soi t
F
: JRn -+ JR
une fonction convexe de
2
classe c
, et soit (Fe:)e:>O la famille des approximations Moreau-
Yosida de F.
Alors pour tout XoEH, et pour toute suite
2
(x)
0 d'éléments de H convergeant vers x
,
v pex ) est obtenu
e: e:>
0
o
comme limite au sens des graphes de la suite des dérivées contingen-
tes DVFe:(Xe:' VFe:(xe:»)
lorsque e: tend vers zéro

---

-
74 -
Démonstration
2
Soit
(u,v)€'mn;JRn
tel que 17 P(X )u = v.
o
Pour toute suite
(Y )n8N
de nombres réels strictement positifs,
n
convergeant vers zéro en décroissant,
on pose
9F
(x + y n u) - 9F lx )
n
<
<
E
E
V
=
,
<
Yn
J
(x
+ y n u)
- J lx )
n
E
E
<
E
a
=
E
Yn
puisque
\\anl ~ luI
,
la suite
(an) ~~
est
E:
€
n,,=~
bornée. On peut donc en extraire une sous-suite convergente que
n
nous noterons encore
(aE:)nGN
Soit a
la limite de la suite (an)
E:
E:
n~
2
Puisque F est de classe C 1
9F (J
(x
) +
-
9F (J
lx )
E
E
E
E
avec
lim mn
= 0
n-++GJ> E:
Oame
dans la démonstration de la proposition
2.1.2, on montre que
: a~ = - E: v~ + u, ce qui entraine que la suite
(v~)n~ converge vers 172p(JE:(XE)1a€
lorsque n
+~
-+
,
et que la
suite (a~)n~
converge vers
(-EV' F(JE(xE»a +
E
u)
lorsque n++= .
DI autre part,
puisque
(aE)E:> 0 tend vers li et que
(vE)OO
tend vers
v = ~2F(x lu, on a bien:
o
(u,v)
r:=
lim
~

---

-
75 -
2.4.
: Mosco convergence des suites d'épi-dérivées
directionnelles du second ordre, lien avec la
convergence en graphe des suites de dérivées
contingentes.
Dans ce paragraphe, nous interprétons la
convergence au sens des graphes des suites de dérivées contingentes,
en termes de convergence au sens de M05CO des suites d'épi-dérivées
directionnelles du second ordre.
DEFINITION 2.4.1,
III
Soit {F, F
H +mu{+œ}
; n~}
une suite
n
de fonctions convexes s.c.i. propres. On dira que la suite
(Fn)n~
converge au sens de Mosco vers la fonction F si les deux assertions
suivantes sont vérifiées
:
(i)
,,)(EH
w
-"-->x
,
F(X)
< lim Fn(X )
n
n++œ
(H)
VxEH
S
- - > X
< F (x)
Le théorème da à Attouch [1]
établissant
le lien entre la convergence au sens de Mosco de
F
vers F,
et la
n
convergence au sens des graphes des 3F
vers 3F s'énonçe çomme suit
n
THEOREME 2.4.2.
Soit {F, F
: H -+ m.u {+~}
;
nEIN}
une suite
n
de f~nçtions convexes s.c.i. propres. Les assertions suivantes sont
équivalentes
(il
F
çonverge au sens de Mosco vers la fonction F
n
G(s-s»
.F
(H)
"
: x
~ x
y
~
"13(X,y) E .F,
n
n
- F (x ) -+ F (x) •
n
n

---

-
76
-
OEFlNTIION S 2. 4 . 3 .
a)
On dira que le sous-différentiel aF d'une fonction
convexe s.c.i. propre F : H +m u{+oo}
, est épi-différentiable en
un point (Xc'YO)E 3F si l'égalité suivante a lieu:
lim
1[ aF-(x
, y ) ]
=
lim
UO
-
0
0
t
UO
b)
Lorsque la limite au sens de Mosco des quotients
différentiels
-
t
<y ,.
> ,
o
existe quand t
tend vers zéro en décroissant,
la fonction convexe
s.c.i. propre F"e(xo'Yo;')
: H .. ]RU {+o:;I}
,
définie par
F(X +t.)-F(x )-t<y ,.
>
F"
(x
Y
"
.) =Mosco-lirn
o
e
0
0
0'
0
UO
2
t·
est appelée l'épi-dérivée directionnelle du second ordre de F au
point x
relativement ~ y
(cf. [13]
).
La proposition suivante
o
0
est une conséquence immédiate du théorème 2.4.2.
PROPOSITION 2.4.4 [13
,
16].
Soit F une fonction convexe s.c.i. propre
définie sur H et à valeurs dans !RU {+œ}
,
et soit
(x .y )EaF. Les
o
0
assertions suivantes sont équivalentes :
(i)
oF est épi-différentiable au point
(xo'Yo)
la Mosco-limite des quotients différentiels
F(xo+t.)
-
F(X ) -
t<yo'·>
o
2
(ii)
t
existe lorsque t
tend vers zéro en décroissant. De
plus, on a
DaF (x , y ) = a[ FU
(x
y
.
) J
o
0
e
0 '
0 ' ·
aIF"(x
Y ' . ) ]
e
désigne ici le sous-différentiel de la fonction
0 '
0 '

---

-
77 -
Remarques 2.4.5.
Lorsque F est deux fois Fréchet-différentiab
au point xc' on vérifie sans difficulté que l'égalité suivante a
lieu [131
:
2
D9F(X '
9F(X »
= 9 F(X
O
o
o )
On vérifie aussi que lorsque F est de classe
2
.
c
,
la double égalité suivante a
lieu [13]
THEOREME 2.4.6.
Soit (x)
0 une suite d'éléments de H telle
< E>
que la suite (x J ~F (x»
0
converge vers (x ,y ) dans Hg x Hg'
E:
e:
E
e:>
0
0
Si pour tout
e: > 0 l
'VF e:
est épi-différentiable au point (x ,IlF· (x
<
<
<
alors les deux assertions suivantes sont équivalentes
:
DdF(Xo'YO)
est obtenu comme limite au sens des graphes
, de la suiœdes dérivées contingentes D'VF (x ,'VF
(x »)
e:
E
e:
E
(U)
F"e(Xo'Yo;')
est obtenu comme limite au sens de Mosco
des
(F )"
(x
•
9F
(x );.)
:
< e
<
<
<
pli (x
y ' . )
= Mosco-iim
e
(F e:) ; (xe' 'VF e: (x e:) ; • )
0 '
0 '
<+0
Demdhstration
Elle est une conséquence immédiate du
théorème 2.4.2 et de la proposition 2.4.4.
Remarque 2. 4 . 2 .
Pour tout E>O
tel que
~FE
soit épi-
différentiable au point
(x
,
~F (x )}, la fonction convexe s.c.i.
<
<
<
propre
(F )"
(x , ~F
(x );.):H -+ m U {+a:>} est obtenue comme Mosco-
E e
E
E
E
limite des quotients différentiels

---

-
78 -
F
(x +t.)-F
(x )-t <VF
(x ) • . >
E:
E:
E.
E:
E.
E.
lorsque t
tend vers zéro en décroissant. Aussi, sous les hypothèses
de la proposition précédente, du fait que la convergence au
sens
de Mosco soit attachée ~ une métrique, le lame de diagonalisation
(cf. corollaire 1-18
(1]
) permet d'obtenir F;<Xo'Yoio)
comme
Mosco-llmite des quotients différentiels
<'VF
(x
) , .
>
E
E
lorsque t
et
E:
tendent simultanéroent vers zéro en décroissant.

---

-
79 -
§3. CONDITION NECESSAIRE D'OPTIMALITE DU PREMIER
ORDRE POUR DES PROBLEMES DE CONTROLE OPTIMAL
D'INEQUATIONS VARIATIONNELLES.
En suivant une approche parallèle à celle
de V.Barbu dans [6]
et en nous appuyant sur les résultats précé-
demment établis concernant les propriétés de convergence au sens
des graphes des suites de dérivées contingentes, nous allons dans
ce paragraphe établir une condition nécessaire d'optimalité du pre~
roier ordre généralisée, pour des problèmes de contrOle optLmal d'if
néquations variationnelles. Plus précisément, nous nous proposons
de retrouver le résultat dQ à V.Barbu
(cf. [6]
Lemme
3-3)
dans
un cadre plus général oŒ les approximations ne seront pas supposée,
2
de classe c
, mais d~ux fois épi-différentiables au sens de Rocka-
fellar.
La proposition 2.1.2 établie précédemment, nous permettra
ensuite de passer à la limite,
'9ppor>tant ainsi
une réponse aux
questions soulevées par V.Barbu
(cf. Introduction).
Soient V et H deux espaces de Hilbert réels
tels que V soit dense dans H, et tels que l'injection de V dans H
soit compacte. On note par I.!
et 1.1 les normes de V et de H,
respectivement.H est identifié à son dual d'une part, et à un
sous espace du dual Vi
de V dl autre part. Aussi, on suppose que
V CHe Vi
algébriquement et topologiquement.
On considère l'équation
Ay +
a" (y) 3
Bu+f
(3 -
1)
oΠA : V +
Vi
est une application linéaire, continue et symétriqui
vérifiant la condition de coercivité
:
2
~ C > 0
(av,v)
> CnvH
'YVEV,
(3
-
2)
a~
est le sous-différentiel au sens de l'analyse convexe, de la
fonction convexe s.c.i. propre
~: H +m U '{+~} , B : U + H, une
application linéaire continue, et f un élément de H. U désigne ici
un espace de Hilbert réel muni du produit scalaire
<,>
,
et de
la norme 1.1
U

---

-
80 -
Remarque 3. l .
L'opérateur A peut être défini de façon
équivalente
(lemme de Lax-Milgram)
par
(u,Av)
= a(u,v)
vu, vEV
1
où
a;
VxV -+ lR
est une forme bilinéaire symétrique et continue )
telle que:
3
2
C > 0
a(v,v)
;;> CUvll
)
VvEV.
(3-1)
s'écrit alors dans ce cas sous la forme suivante
a(y,y-v)
+ ~(y) < ~(v)
+
(Bu + f,y-v) 1 VvEV.
Le problème de contrOle optimal étudié
dans ce paragraphe se formule de la manière suivante :
rs: minimiser la fonction
g(h)
+ heu)
sur l'ensemble des couples
(y,u)EVxU,
assujettis ~ l!équation {3.l).
9 : ~,+lR et h
U +lR {+œ} désignent ici des fonctions vérifiant
les hypothèses
(i)
9 est de classe c 1
(ii)
h est convexe s.c.i. propre telle que
Sous Ces hypothèses, V.Barbu montre dans
([6] Proposition 3-1)
que le problème C? admet au moins une solution
Dans la suite, nous noterons
(y.,
u·)
une solution du problème GS.
Pour établir la condition nécessaire d'op-
timalité du premier ordre généralisée,
relative au problème GJ,
considérons comme dans [6]
la famille
(CS)
0 de problèmes
c c>
rf approchés"
de Cif de la forme
çg : minimiser la fonction
c
g(y)
+ hclu)

---

-
81 -
sur l'ensemble des couples
(y,u)~VxU assujettis ~ l'équation
Ay +9~ (y)
= BU + f
(3 -
3)
o
)
où h
: U ~m et ~ : H +m désignent les approximations Moreau-
o
0
Yosida de paramètre E
r
des fonctions h : U +mu{+~} et
I(J
:
H + IR V {+DO}
1
respectivement.
Comme GJ, le problème <?o
admet au rnoiQq une solution que nous noterons par la suite
(y , li )
;
avec y
= y (u ).
E
E
E
E
E
LEMME 3.2.
Soit (Y , UE)EVXU, une solution du problème'
E
n approcbé"
l~ • On suppose que ~
o
I(J
est épi-différentiable au
<
point
(y< 9~~yo»'
Alors, i l existe un élément p
EV, pour
o
lequel on a
1)
Ayo + Wo(Yo)
=BU< + f
2)
A·po + D9~«yo ,9~o(YO»PE = -9g(yo)·
Si en plus, D~I(J (y ,QI(J
(y») est de graphe linéaire dans aXH,
E
E
E
E
alors l'élément P
,vérifie:
o
Démonstration.
L'assertion (1) découle directement du
fait que
(Y "
u
)
est solu.tion du problème "approché" ~ .
é
é
L'assertion
(2) quant à elle, repose sur
les propositions suivantes :
Proposition 3.3.
Soit F : H ~m une fonction convexe de
classe C~. On suppose que VF est épi-différentiable au point
(x, VF(x )), et que llapplication y +
VF(y)
est localement
o
0
lipschitzienne de H dans H. Alors li opérateur

---

-
82 -
est univoque de H dans H.
Démonstration
Soient vI et v
deux éléments de H tels que
2
vI E D9F(X 9F(X ))U et V2ED9F(Xo,
9F(X »)u.
Puisque 9F est épi-
d
o
o
différentiable au point (xc'
9F(x ) ,
alors,
pour toute suite
o
(Yn)n~ de nombres réels strictement positifs, convergeant vers
l
2
zéro en décroissant, i l existe deux suites
(u ) =0.1 et
(u _) =>'1
TI
n"-,lL~
TI
n .....,
d'éléments de H convergeant fortement vers u,
et deux suites
2
(vI) =0.1
et
(v ) =0.1
d'éléments de H convergeant fortement vers
TI
n.....,
TI
n'->ll.~
vI et v
'
respectivement,
telles que
2
'1nGN
,
n
2
n
2
V'F(x +y u
= 9F(x) +
o
n
Y v n
En utilisant le fait que l'application
y
+V'F(y)
est localement lipschitzienne et en faisant tendre n vers
l'infini, on obtient: v
= v
.
l
2
Proposition 3-4 [6]·
Soit A : V + Vi
une application linéaire
continue vérifiant la condition de coercivité
(3-2), et soit
~ : H ~m u{+~} une fonction convexe s.c.i. propre. Alors pour
tout ffV',
l'inéquation variationnelle
(3-1)
admet une solution
et une seule yEV.
De plus,
l'application f +
y
est lipschitzienne
de V'
dans V.
Suite de la démonstration du lemme 3.2
~~
étant épi-différentiable au point
(y ,~~
(y)),
E
E
E
E
la dérivée contingente D~~
(y
,~~
(y)) s'écrit comme le sous-
E
E
E
E
différentiel d'une fonction convexe s.c.i. propre définie sur H
(cf.
§2). Aussi,
d'après la proposition 3-4,
i l existe un élément
p EV,
tel que
:
E

---

-
83 -
La proposition 3-3 permet ensuite dl écrire
:
•
Pour tout uEU,nous noterons y(u),
l'unique solution
de l'équation (3.1).
Pour démontrer l'assertion
(3)
du lemme 3.2, commençon!
par écrire que
(Ye(u ) ,u ) est solution du problème "approché" CS :
e
e
E
Soi t
vell et soit À > 0, on a
:
(3.4)
Posons alor 5
YE(U +
ÀV)- YE(U )
ZE =
E
À
À
et montrons que
(Z~)À>O est une suite d'éléments de V, bornée
pour la norme de V.
En effet, on a
:
Ay
(u +
ÀV)
+V",
(y
(u +
ÀV»)
= B'(u
+
ÀV) +
f
e:e:
e : E E
e:
Ayo(u o ) +V", (y (u )) ~ Bu
+ f.
< : , . < : ' -
C e : E :
E:
En utilisant la monotonie du gradient Q~e
de ~€ 1 on obtient:
<-A(y
(u +Àv)+Ay
(u )+B(Àv),
Y
(u +Àv)-y
(u)
>
;;.
0
e:
e:
e:
e:
E:
E:
E:
E:
c'est-à-dire
< -
A (Z ~) + Bv, Z ~ > > 0
En utilisant la condition de coercivité
de A, on obtient
<
< Bv,
z:-> ;>
A

---

-
84 -
L'injection de V dans H étant compacte,
i l existe alors un élément ZE: ev ,
tel qu'une sous-suite
(Z~ )lJ>O
converge fortement vers ZE:
pour la topologie induite de ceïle de
H. Ensuite,
(3-4)
permet d'écrire:
< I7g(y),
ZE:
>
> -<V'h (u ),v > •
(J .5)
E
E
E
Aussi, en utilisant le fait que
A~p + DV~E(YE,V~E(YE))PE= -vg(y )
E
E
On obtient :
< A,*p
+ DIl'P
(y
,'V1o'
(y »p
,
z€:
> -;;; < \\lh
(u
) ,v>.
(3.6)
E:
E E
E:e:
E:
E:e:
Utilisons à présent l'hypothèse selon
laquelle DV''P
(y IV'~ (y»
est de graphe linéaire dans H x H.
E:
e:
E:
E
Pour cela, rappelons d'abord le résultat suivant
Proposi tian 3.5, [9]
Soit A un opérateur linéaire
(univoque)
maximal monotone dans H x H. Alors A
est ç~cliquement monotone si
et seulement si A est symétrique
c'est-à-dire: A~ = A, où A-
désigne l'adjoint de l'opérateur linéaire A.
Suite de la démonstration du lemme 3.3
D~~ (y ,~~ (y))
étant linéaire et cycli-
E
ê
ê
ê
quement monotone,
la proposition précédente et l'assertion
(3-6)
permettent d'écrire :
< P E:
'
Az E: + D~~ e:: (y E: ,~~ e:: (y e:: »z E: >
<~h(U),v>
( 3 .7)
E
E
Il nous reste à prouver que l'égalité
suivante a lieu
( 3 .8)

---

-
85 -
En effet,
en remarquant que
~~ (y (u +Àv»-~~ (y (u »
E e : E
E E E
= Bv
;
À
on obtient :
~~ (y (u)+ ÀZ~) - ~~ (y lu»
=À[-A(Z~)+ Bv),
(3 .9)
E
E
E
A
E
E
E
A
où. pour tout À> 0,
z~
est défini comme suit:
y
(u + ÀV)
-
y
lu )
E
E
E
E
À
D'autre part, puisque l'application
yEH ->~~ (y)EH est lipschitzienne de rapport!
,
(3.9)
permet
E
E
d'écrire:
Considérons à présent l'opérateur ~:H + H
définit comme suit
:
~ly) = A(y) pour tout yED(~) = {vEV
AvEH}
V.Barbu montre dans([6) Théorême 2.3J)que ~ est maximal monotone
dans H x H. Aussi,
puisque la suite
(Z~)
0
converge fortement
E
A~ l.l >
vers Z
dans H,
l'assertion
(3.10)
permet de dire que la suite
(o\\i(Z~~)l.l > 0 converge faiblement vers ~(ze:) = ACZE:) ; ceci du
fai t
que AH soit:. de graphe fermé dans H
x H
[cf. 6, Théorême 2.3]
s
w
Par conséquent, on déduit de
l3.9)
que:
- - l
~~ il W
l3.11)
E-
(YE,V~E (YE»
J
Posons alors
~
(y + L)-<p
(y )-À<V~ ly ),.>
E
- E : E
E E
E E
AÀ (.)
= -=---=-----=---'À"'E::--.....::.-=-----
on a l'expression suivante de gradient de A~
E
1
~AÀ l.) = ilV~E(YE+L) -~~E(YE)J

---

B6
En termes de graphe. on obtient
( 3 • ]2)
D'autre part,
puisque 'i/op
est épi~fférentiable
€
au point (Yc' 'il'fJc(Yc»' la MoscQ-convergence des ~~(.) vers
('PE:)~(YE,'iJl()E(YE); .) lorsque À 4- 0, entraine la convergence au sens
des graphes de 'i/,,~(,) vers D'il'P
(Ye::,'iliPe:(YE»
dans H
)( Hw
(cf.l.,
E
s
Théor~mG 3.61). En d'autres termes, on obtient
D17""f:.(Ye;,'illj.1E(YC»
=
s-w Lirn
HO
Par conséquent, on déduit de
(3-11)
que
AZ€+DW'
(y
,
Ven (v
)
zE = Bv.
Tf;
E:
t E - e
En remplaçant AzE + D'i/l()c(yc,'i/l()c(Yc»)ZC
par Bv dans
l'assertion
(3-7), on obtient:
<p
,
Bv) < < 'i/h (u ), v».
€
€
€
Ceci,
étant vrai pour tout vEU, on a par conséquent
B•F€
= Vh€(u€)
;
ce qui est l'assertion
(3)
du lemme 3-2.
Remarque
3-6·
Dans [6]
,
V.Barbu considère la famille
Ç8lE i E > 0 de problèmes 11 approchés" de ~ , de la forme :
qr
minimiser la fonction
t
-
.
]
gly)
+ h(ul +
lu-u
1
2
Ij
sur l'ensemble des couples
(Yru)EV x Ur assujettis à l'équation
Ay +~~
(yi
= Bu + f
,

---

- 87 -
où u~ est l'élément de U, tel que (y·,u-) soit solution de
~
Dans ce cas}on vérifie sans difficulté que l'assertion
(3)
du lemme
3-2 s'écrit :
( 3 ' )
B"P
E ah(u)+
(u -u*)
E
E
E
LEMME 3-8
(cf. Lemme 3-2 [6J
)
Soit
(y., u·)
une solution du problème CS • On suppose
que l'injection de V dans H est compacte, alors les assertions
suivantes ont lieu :
..
(i)
5
u
- - > u
dans
U
E
..
5
(ii)
- - > y
dans
V
Yé.
w
..
( iil)
AY
_ _>Ay
dans B.
E
Pour écrire la condition nécessaire d'optimalité du
premier ordre,
relative au problème CS , nous av'ons
également besoii
de la définition suivante
:
DEFINITION 3-9
Soit a~
le sous-différentiel de la fonctl0
convexe s.c.i. propre ~
H "':IR U
{+co}
,
et soit
(p,q)
E
al/' C H x H.
On définit:
s-w
Lirn D 3'" (pl ,q')
(p' ,q') ;:t(p,q)
1,tn"IN }
•

---

- 88 -
On dira que la multiapplication
(x/y)EHsX~w ~ Da lj?(x,y)CH
x
Hw est s.c.s.
en un point
(x
'YO)E31j?
s
O
si l'inclusion suivante a lieu:
s-w
liln D dit' (p' ,g')
CDa,,(x,y)
o
0
(p' ,g') a~(p,q)
s-w
Le théorème suivant est une conséquence
directe du lemme 3-2, du lemme 3-8 et de la remarque 2-1-4
:
THEOREME 3-10
..
Soit
(y ,u.. lEVxU, une solution du problème ~.
On pose r .. = Bu.. - Ay"+ f, et on suppose que la multiapplication
(x,y)~H xH
+ Da (x,y) C H xH
est s.c.s. au point
(y*, r*).
s
w
s
w
..
Alors,
i l existe un élément p EV, tel que
..
Ay
+ a"
. ..
(i)
(y ) 3
Su
+ f
-Ap * -
9g(y•
(i i )
l ë .
) E D a,,(y , r
)p'*
( i i i )
S'P"E ah(u")
Démonstration
L'assertion
(i)
découle directement du fait
que la suite des gradients V~€converge au sens des graphes vers a~
dans H xH
(cf. Théorème 3-67
[1]
).
s
w
l'assertion (ii)
quant à elle, repose sur
le fait que l'hypothèse de coercivité de l'application A, et la
monotonie de DV~ (y ,Vo (y )), permettent d'écrire:
' €
€
l€
€
(3-13)
Ce qui, d'après le lemme 3-8 permet de dire
que la suite (p)
est bornée pour la norme de V. Il existe alors
•
E
E
un élément p EV tel
qu'une sous-suite (p
)
0
converge faible-
E
~ >
ment vers p. dans V,
par suite/fortement poHr la norme induite de
celle de H. Par conséquent,
l'assertion (ii)
résulte directement de

---

-
89 -
la remarque 2-1-4. Quant à l'assertion
(iii),
elle repose sur le
fait que la suite des gradients 9h
converge au sens des graphes
E
vers ah
dans H
x H
5
W
Remarque 3-11.
Sans l'hypothèse de semi-continuité supé-
rieure de la multiapplication
(x,y)EH xH
~ Dd~ (x,y)CH xH
au
5
W
5
W
point
(y*,
r*),
l'assertion
(i1)
du théorème précédent s'écrit
sous la forme
:
*
. . . .
.
(p
,-A P -~g(y )Es-w
L:un
D." (y,r)
(y,r)...l'g :y",r")
S""W
Cas particuliers.
2
Lorsque '1 est de classe C
(resp. une
forme quadratique généralisée convexe),
l'assertion
(ii)
du théo-
rème 3-10 s'écrit sous la forme:
.. •
2
*..
•
A P
+ ~
"
(y Ip
= -~g(y 1
(resp
• -
A "p" - ~g (y"1 E ."
"
(p ))
Remarque 3-12.
On peut directement retrouver le résultat
du théorème 3-10, sans avoir à considérer une famille
(l..~) E>O de
problèmes "approchés II de @. Plus précisément, si a~ est épi-diffé-
rentiable au point y., r-), alors i l existe un élément p·EV tel qu-
.
-A
.P- .
..
~g(y )ED .~(y
. ~
(il
,r )p
Aussi,
l'élément p·Ev,vérifie
B..
(ii)
P " E.h (u" )
dès lors que les assertions suivantes sont réalisées
qED a~(y.Ir.)p <-->VuEH, VveD
. ~
( 1)
a~(y ,r )u, <q,u> = <P,V>
(2)
VuE!]
3e(u) >
0
I l A(y(u))1
<;
e(u)

---

-
90 -
Démonstration.
En effet,
sous l'hypothèse d'épi-différen-
.
....
'* ..
tiabilité de a~ au po~nt (y Ir ), Da ~{y Ir )·est exactement le
sous-différentiel de la fonction convexe s.c.i. propre <.pli
(y. ,r~;.)
e
l'épi-dérivée directionnell~ du second ordre de
If' au point y~
relativement à r~. Par conséquent, d'après la proposition 3-4, il
existe un élément p •EV tel que :
..
..
•
..
~
-if
-A P
-
9g(y ) E D d~(Y ,r lp
Quant à l'assertion
{ii}
elle se démontre
exactement comme l'assertion
(iii)
du lemme 3-2.

---

---

-
91 -
-
BIBLIOGRAPHIE -
[ 1 J
H.ATTOVCH
Variational convergence for functions and
operators.Applicable Mathematics Series,
Pitman,
372-378,
(1984).
[ 2 1
J.P.AUBIN : Contingent derivates of set valued rnaps and
existence of solutions ta nonlinear inclusions
and differential
inclusions.
Math.Anal.appl.Advances in Math.Suppl. Studies,
159-229,
11981).
[ 3 1
J.P.AUBIN
Lipschitz behavior of solutions ta convex mini-
mization problems.
Maths of oper.Research,
87-111,
(1984).
1 4 ]
J.P.AUBIN and I.EKELAND
: Applied nonlinear analysis.
Wiley Interscience New-York,
(1984).
[ 5 1
V. BARBU
Nonlinear semi-groups and differential equations
in Banach spaces.
Noordhoff
(1976).
[ 6 J
V.BARBU
Optimal control of variational inequalities.
Pitman Advanced Publishing Progra~.(1984).
[ 7 1
C. BERGE
Espaces topologiques,
fonctions multivoques.
Dunod,
Paris,
(1959).
l 8 ]
G.BOULIGAND:
Introduction à la géométrie infinitésimale
directe.
Gauthier-Villars,
Paris,
(1932).
1 9 1
H .BREZIS
Opérateurs maximaux monotones et semi-groupes de
contractions dans les espaces de Hilbert.
North Holland,
(1973).
[ 10 )
F.R. CLARKE: Nonsmooth Analysis and optimisation
Wiley -
Interscience,
(1983).
[ 11 J
S.MAURY
Formes quadratiques généralisées
Comptes-Rendus,
271, Série A,
1054-1057,
(1970).
[ 12 ]
J.J.MOREAU
: Proximité et dualité dans un espace hilbertien
8ull.Soc.Mat.France,
93,
273-299,
(1965).
[13 J
J.~.NDOUTOUME: Calcul différentiel généralisé du second
ordre pour des fonctions convexes.
AVAMAC,
(1986).
14 1
J.P.PENOT:
A charac~erization of tangential regularity
Non linear Analysis.
Vol.5,
n 0 6,
625-643,
(1981).

---

-
92 -
[ 151
R.T. ROCKAFELLAR : Convex Analysis
Princeton University Press,
(1970)
[ 16 l
R.T. ROCKAFELLAR
Maximal monotone relations and the
second derivates of nonsrnooth funct1ons.
An.
Institut Poincaré 2, 167-184,
(1985).

---

Chapitre III
Sur la convergence des suites de sous-différentiels
dans le cas non convexe.

---

---

-
93 -
O.
Introduction
Le
calcul
différentiel
généralisé
permet
d'associer
6
une
fonction
F (non nécessairement différentiable)
définie
sur
un
espace
vectoriel
normé
X et
à
valeurs
dons ~ ,deux notions
étendant celles classiques de dérivée:
1- OF
:X x
X ~ ~ ,la dérivée directionnelle
"généralisée"
de
F,
2- iJF
:X ~ x· ,le sous-différentiel (ou gradient
généralisé)
de
F (
X· désignant
ici
le
dual
topologique
de
X ) .
le
rôle
joué par
ces
concepts
de
différentiation
en
optimisation et
contrôle,notamment dans
l'écriture des
conditions d'optimalité,est
tres
importdnt.Parmi
les auteurs
qui ont
introduit
et
utilisé ces
concepts dans
de nombreuses
directions,
citons
J.-P.
Aubin
[9],
F.
Cl~rk.e
[13; 14],
J.-B.
Hiriart-U.rruty
(17;18;19].
J.-P.
Penot
(22;24]
A.T.
Aock~.fellar [25],
L.
Thiboult
[27].
Une
Question
importante
et .fort
délicate
consiste
à
étudier comment
une
perturbation
ou
approximation
sur
F se
répercute
sur
~F,
et
inversement
,le
même
type
de
question
se
posant
avec F
et
DF ou ôF et DF
Ces notions
ayant
pour objectif
la
résolution
numérique de
problème9 a'optimisation,il
est
lêgitime de
poser
la question
en
terme
de
stabilité,
i . e .
en
quel
sens
doit
converger
la
suite (F"l
vers F
pour que
la
suite des
sous-différentiels
caFnl
converge
vers
aF en
un
sens
également
à définir.
Notons
que ce
type d~
résultat
de
~tabilité peut fournir
un
critère de
sélection de
la classe
de
fonctions
considérée
(régularité, . . . l
et
de
la
notion
de
dérivée
généralisée,parmi
le
grand
nombre
de
notions
proposées dans
la
littérature.
En
d'autres
terme9,nous
cherchon9 à
définir
un
triplet:
al -une classe
de fonction9
(la plus
large possible)
b)-une
notion
de
dérivée
(ou
sous-di.f.fgrentiel),
cl-une
notion
de
convergence
pour
lequel
les
applic~tions F
~ aF
F
~ OF
aF
~ DF
soient (gem!)
continues.
L'étude du cas convexe (c'est-à-dire
lorsque
l'on
consid~re la classe
des fonctions
convex~s s.e.!.
propres)
est
très
signi.ficative
à
cet égard
et
nous
guide
dans
le
choix

---

- 94 -
de ces
di~~jrQnts conc@pts.
Dans
H.
Attouch
[1;2;3] est
mise
en
évidence
l'équivalence
( i )
.... (11)
ex
Banach
réTlexif)
( i )
F n
-+
F
au
sens
de
la
Mosco-épicanver2ence.
( l i )
aF n -+ aF
au
sens
des
grophes
(
ou
des résolventes)
+ condition
de normalisation.
Ce
résultat Tait
intervenir
10 convergence d'en~emble (au sens
de Kuratowski-Painlevé)
i.e.
l'égalité entre
la
limite
inT.
(ensemble des
limites de suites)
et
la
limite
sup.(ensemble des
limites
de
sous
suites).
La Mosco-épiconvergence des F n vers F signifie que épiF n ~ épiF
d~ns X lot R,muni
de
la
topologie Torte
et "faible.La convergence
au
sens
des 2raphes des aF n vers aF st2ntTie que aF est la
limite de
la
suite d'ensemble
aF n dans X lot X· (nations décrites
en détail
d~ns le p~r~graphe 1.).
Le T~it de
$e
restreindre au cas convexe
permet
de
donner un
~ens
"g~ni_~~lisé" au
théorème
rêv~
par des
génér~tions d'étudi~nts:si le~ Tonctions
conver2ent,alors
les
dérivées convergent!
Dans
le passd2e du c~s convexe au cas non
conve~e l,il
parait
n~turel de
retenir comme notion de
convergence pour
les
sous-diTT~rentlQls la
noti-on de
convergence
~u sens des grephes.Elle permet d'aTfirmer d'une
part-que si
x n est point critique de F n ( 0 € aFn(x n))
et
)In
.... ~,alors)l
est
point
critique de F (
a
E: aF(x»)
(i.e.
toute
limite de points critiques des F n est point
critique de
F) .O'autre part,tout
point
critique de F peut
être
obtenu comme
limite de
points critiques approchés des
F~.
Nous allons donc chercher à
étendre
le
résultat cité
ci-dessus,sur
le
lien entre
la convergence des Tonctions et
l~
convergence au
sens des graphe9 des
sous- différentiels,en
ayant
bien en
tête
les
limitations
nQceSGaires
à
une
telle
étude.On
peut
les résumer en disant
qu'il
Taudra garder un
certain contrôle "uniTorme"sur les dérivées
secondes
"généralisées"
des Tonctions
considérées!(cT.théorème 2.1.3 et
théorème 2.2.2).
L'autre problème évcqué ci-dessus
, i . e .
10 continuité de
l'application aF ~ DF
,où
DF est
définie
par
(X,hJ
E X ~ X ~ OF(x,h)"'" sup{ <~·,h> ,x· €
aF"(x)},
est e~aminé dans
la
section 3
où
l'on montre
que
la

---

95
convergence
des èF n vers èF au sens des graphes,correspond
~ !'hypo /
~pi-convergBnce des OF~(",.)
vers OF(" •. l
(cf. théorème
3.2.4 ).
Ce
type de
Question apparaît
naturellement
dans
un grand
nombre
de problèmes en optimisation et contrôle (cf.
H.Fran~owska
[15]) .
Ce
travail
s'articule autour du plan
suivant
1.
Rappels
et généralités
1-1
Convergence au
sens des
graphes des
suites d'opérateurs
(multivoques) •
1-2
Convergence au sens des
graphes des
suites de
saus-
différentiels dans
le
cas
conve~e.
2.
Convergence
des
suites de
sous-différentiels
dans
le
cas
non
convexe
2-1
Cas des
fonctions
s'écrivant comme
somme d'une
fonction
convexe
et d'une
fonction
de
classe cl.
2-2
Cas des
fonctions
s'écrivant comme différence de
fonctions
convexes.
3.
Lien
entre
la
convergence en
graphe
d'une
suite de
sous-
différentiels
et
l'hypo
/
épi-convergence
des
suites de dérivées
directionnelles.

---

- 96 -
1.Rappels et
généralités
Les définitions et
propriétés énoncées dans ce
paragraphe
seront
constamment utilisées
dans
le
suite.
1.1
Convergence au
sens des
graphes des
suites d'ooérateurs
(multivoques)
Soient
(X,y)
et
(y.~)
deux
espaces
topologiques.un
opérateur (multivoque)
de
X dans
Y sera
une
application de
X
dans
:PC Y) ,l'ensemble
des
parties
de
Y.
Et~nt donné un op~reteur (multivoque)
A
x
~ y , le
graphe de A se définit
comme
suit
G( A)
-
{
()(. y)
e: X )( Y /
y
E
A
x
}.
Dans
la
suite,
nous
identifierons
tout
opérateur
(multivoque)
~
son
graphe.
Définitions
1.1.1
Soit
(An)n
E lN une
suite
d'opérateurs
(multivoques)
de
X
dons
Y.On définit
y-~
Lim inf A
{
( x,y)
E
X
x
Y
o
1
3 (Kn,y n ) n E IN
y
~
x
~
x
Y
~
y
,
E
A
o
Yo
n )( n
, .., n E IN }
0
y-~
Lim
9Up
A
- { (x,y) E X x Y 3
o
(nl<)k
IN'
( ) ( k ' Y k ) /
E
Y
~
..,
x, ~ x
Y, ~ Y ,Y,,€
An (x
) ,
k
E
IN ) .
k
,
Lorsque X est
un espace d~ Banach,
an désignera
par X· son dual
topologique.
X
(resp.
x:) désignera llespace X (resp.X·) muni
w
w
de
la
topologie faible,et
x n ~ x exprimera que la suite (x n )
converge faiblement
vers
x.
D~ même, X~ (resp. X:) désignera
•
s
l'espace X (resp.
X )
muni
de
la
topologie forte,et
x n ~ x
exprimera que
la
suite
(x n ) converge fortement vers x. On
vérifie
s~ns difficulté que
les
inclusions
suivantes ont
lieu
s-s Lim inf An C s-s Lim sup An C s-w Lim
sup An'

---

97
g-g
Lim lnf
An
C s-w Lim
inf
An
C s-w Lim
sup
An
D'où
la définition
suiv~nte
Définition
1.1.2
On dira qu'une
suite
d'opérateurs
(multivoques)
(
An:
X
:t X-:
n
€
!N } converge au sens des graphes vers un
opérateur
A
X::t' X·
dans
X~ x x: ( ra 5 p .
si
If\\!
double
inclusion
suivante
a
lieu
s-w Lim sup An c A c s-w Lim inf An
(resp.
g-S
Lim sup
An
CAC g-g
Lim
inf An
).
G( 5 ,w)
Oans
la suite,
An
A
exprimera
que
la
suite
d'opérateurs
(An)
converge
au
sens
des
graphes
vers
l'opérateur
Ge s, s)
A,
dans
X'S
x
X •
•
De
même.
A
-
A
exprimera
que
la
suite
IoI
"
d'opérateurs (A,..J
converge
au
sens
des
graphes
vers
l'opérateur
A,
dans
X~ x x:
1 . 2
Convergence
au
sens
des
grapnes
des
suites de
sous différentiels
dans
le cas
convexe.
Soit
F une fonction
convexe
s . c . i .
propre,
définie
sur X
et
~ valeurg
dans
R U {+D}.
En
tout
point
x
€
X où F prend une
valeur finie,
on
sait
que
pour
tout
h
€
X,
la
limite
F(x
+
th)
-
F(x)
F'( x
,h)
'"
lim
ua
t
existe dans
R V {+D}.
La fonction
n
~ F'(X,h)
est
convexe,
propre et
positivement
nomogène
(25].Elle
sera dite
la
dérivée
directionnelle
~e
F au
point
x.
La
régul~risée semi-continue
inférieure
h~[clF'(x,
) ]
(h)
lim inf F'( x,h')
h'~ h

---

-
98 -
de
F'()(
•
,)
est
le
fonction
support
(ou
fonction
d'appui)
d@
l'engemble
convexe
fermé
èF(x)
C X·,eppelé
gous-différentiel
de
F au
point
:ol
[cl
F'( x
l l(hl
•
o.loaFex)
(h)
' t J h E X
avec:
.,.
(h)
-
5UP
(
<
' · , h
>
)(.
€
oF()(
}
}
.... OF(x)
"
Cet ensemble est
caractérisé de la manière
suivante
aF( x
)
' Q ' h E X )
F( u)
;Jo
Fe )() + < X • lU-X >, 'tJ u EX}
" , a [ F ' ( x ,
) J( 0)
Définition
1.2.1
Soit
une fonction convexe s.e.i.
propre F:X ~ R u
{+~ }.
On
dira
Qu'une
9uite de
fonctions
convexes
s.e.1.
propres
( F n = X ~ R u {+~);n E ~) converge au sens de MOSCQ vers la
fonction
F
51
1e9 deux assertions
suivanteg
ont
lieu
w
(n 'ri :li €
X, 'fi x ~ x
•
•Fe xl
Le théorème
suivant
établit
le
lien entre
la convergence
au sens
de Mosco des F n vers F et la convergence au sens des
graphes des
aF n vers oF
Téorème
1.2.2
CcT. [3J,théorème 3.66 )
Soit
une
suite de Tonctions convexes
s.c.i.
propres
{ F
,
F n : X ~ ~ U (+ ~};n E ~ }.Les assertions suiv~ntes sont
équivo!llentes
:
(i)
F n converge au sens de Mosco vers F
G( s • s)
r aF. ~ aF lorsque n ~ + ~
( i i)
b)
3 (x,yJ
E
aF
3
( xn'Yn J
/
y.
E 'aF,,(xnJ .'1 n
E
IN
5
5
x. ~ x
y.
~
y
Fn(x n) ~ F( x) .
Le résultat
précédent
cesse
d'être
vrai
lorsqu'on
sort

---

-
99
du cadre convexe,comme
le montre
le contre exemple
suivant
Contre exemple
1.2.3
On
pose X •
~ et
on considère
la
suite de
fonctions
(F
)
n
où chaque fonction
F n est définie comme suit
. - sin (nx) ,'ri x E IR•
n
La
suite
CF
converge
uniformément
vers
la fonction
F
n )
= O.
Cependont,lo
suite des
grodients
V F
converge
pes eu
sens
n ne
des
graphes
vers
le
gradient
V F.
En
e-f-fet,
pour x
•
et
"
n
n
on a
V
F( 0)
•
a
A noter
sur
cet
exemple
que
l'on a
aucun contrôle
sur
la
courbure des
F n
Il
existe
une extension
du
théorème
1.2.2 dans
un
cadre
non convexe
(CT. [5]) .Plus
précisement,lorsQu'il
s'ogit
de
suites de fonctions
de
deux
variables,convexes
par rapport
0
la
première
et
concaves
par
rapport
à
la
seconde.Dons ce
cas,la
convergence
au
sens de
Mosco est
remplacée
par
la
Mosco
/
épi-hypo-convergence
,ldquelle
peut
être
vue
comme
une
adaptation de
la
Mosco convergence
aux
suite9 de fonctions
de
deux
variables (voir
par
exemple
[4;5)).

---

100 -
2.Conver&ence au
sens des
graphes des
suites de
sou9-d1ff~rent1els dans
le CdS
non
co"nvexe
2.1
Cas des
fonctions
s'écrivant comme
somme d'une
fonction
convexe et d'une fonction de classe C 1
Définitions
2.1,1
(22;23;24]
Soit une fonction
F:
X ~ ~ ,et soit x un élément de X où
F prend
une
valeur finie.La
dérivée directionnelle de Oin1 de
F
au
point JI.
est
la fonction
['e x
)
X .... IR,
définie
comme
suit
Fel(
+
tz)
-
F(x)
inf
."d h
EX.
t
(t,zJ
... (O .. ,h)
Elle est positivement
homogène,mais
pas nécessairement
convexe.Le
sous-différentiel
de
Oin1
de F
au
point
x est
le
convexe fermé
de
X· ,défini comme
suit
~F( x)
h)
}.
Lorsque
F s'écrit
comme
somme
d'une fonction
convexe
G :X ... R et d'une fonction
de
cl~sse Cl V
X ~ ~ ,on
obtient
l'expression
suivante de
2f
~ •
èG
...
'V
V
Oans ce cas
,èF coïncide
~vec d'autres
sous-diTTérentiels de
F,comme
ceux déTinis et
utilisés
par
Clarke,H1riart-Urruty,Janin,
AockaTellar,Thibault, . . .
Etant
donnée
{F,F n
X ~ R
n
€
~ }
une
suite de
Tonctions
telle que ~ et
chaque F n s'écrivent comme somme
d'une
Tonction convexe et
d'une
Tcnction de
classe Cl,nous nous
intéressons ddns
ce
paragraphe à
l'obtention de
~F comme
limite
au sens des
graphes des
~"
Nous allons commencer Dar démontrer
une
version
gemble-t-il,mieux adaptée
au
cadre
de
la
dimension
infinie,du
théorème classique
concernant
la
convergence
d'une
suite de
de
fonctions
difTérentables,et
dont
nous
rappelons
l'énoncé
CH.Cartan
(10),théorème
3.6.1,
3.6.2 )
Théoreme 2.'.2
Soient
X un
espace
de
Banach,
~ c
X un
ouvert connexe

---

-
101 -
de X
et
{V,V"
X ~ R ;n
E ~ } une
suite de
fonctions
différentiables
vérifiant
( i )
la
suite
{ VII
;n
e
lN } converge
simpement
vers V
11)
la
suite
des
fonctions
dérivées
{ V V n(.); n e IN }
converie
uniformément
sur
toute partie bornée
de
Cl,soit
g sa
limite.
Alors,
V n converge uniformément vers V sur toute partie bornée
de 0,
V est
différentiable et
V V :
g
En d'autres
terme9,V Vn ~ V V uniformément sur toute pert1e
bornée de
Cl
Remarquons que
l'on a
alors
V Vn ~ V V dU sens des
des graphes.
C'est
cette
idée
de convergence
dU
sens des
graphes de9 dérivées que
nous
avons
gardée dans
le
résultat
suivant:
Théorème
2.1.3
Soient
X un
espace
normé
et
{ V,V
x ~ IR
n
n
E
IN } une
suite de fonctions de classe
Cl
vérifiant
( Hl)
la
suite
{ V"
n
e N } converge
uniformément
vers
V. sur
toute
partie bornée
de
X.
(H
n
e N }
est
équilipschitzienne
2 )
la
suite
{ V V n
sur
toute
partie bornée
de
X
Alors,
pour tout
x e X,
et
pour
toute
suite (x n )
convergeant
vers
x dens X .. '
V V ( x
Il
n)
converge
vers V V( x)
dans X:.
En perticulier V Vn
tend
vers
V V
au sens des
graphes,et
V V est
lipschitzien
sur
toute
partie bornée de
X.
Avent de
passer à
la démonstration du
théorème 2.1.3,
faisons
Quelques
remerQues
a)
X n'est
plus
supposé nécessairement
complet
dans
le
théorème
2.1.3
b)
LOrsque X est de
dimension finie
,le
théorème 2.1.3
résulte du
théorème classique
2.1.2 par application du
théorème
d'Ascoli.
c)
La
vérification de
l'hypothèse
(ii)
du
théorème 2.1.2
(contrairem@nt
d
l'hypothèse
(H 2 ) du théorème 2.1.3 lest
difficile en dim@nsion
infinie
les critères
de compacité dans
e (X,X-) pour le convergence uniforme sur les bornés r@quièrent
en général X de dimension finie
(cf.
théorème d'Ascoli).

---

-
102,-
C'est en ce
sens que
nouS
disons
que
la
~ersion 2.1.3 est mieux
adaptée
à
la dimension
lnfinie.
démonstration du
théorème 2.1.3
Il
suffit
de démontrer
l'inclusion
suivante
'VV
c
g - s L i m i n f V V
( 2 . 1)
n
i . e .
:
'Ti )(
EX,
3
x~ ... )( tel que V Vn(x~) ...... V V(x).
De
l'hypothèse d'équilipschitzianité (H
) , i l
résultera que
pour
2
toute
suite
(
x
)
convergeant
vers
x dans
X
"
.
i.e.
Pour démontrer (2.1).
naus
raisonnons
par
l'absurde.
Supposons
donc
l'existence
d'un
point
)(0
E X pOur
lequel
( 2 . 2)
Naus
rappelons
ia
définition
de
la
limite
inférieure (dons
un
espaca métrique),ici
v
V
c X xX· . Notons tB la Doule centrée
"
,
X·
~ l'Origine, et de rayon ~ dons X
,pOl"
exemple
IIx-li.
"
) ,
o~
Il. Il. désigne
10 norme duale sur X· .Alors
5-5 Lim inf V Vn *
n
U
( '7. V k
+
E.B)
( 2.3)
1
<>0
n
et
(2.2)
s ' é c r i t :
(XC'
V
vexo»
E
u
n
n
('9
V k
...
t,B) 0;:,
.,0
n
"
,. n
soit
encore de façDn
équivalente
En
particulier,
si
)(,
E 8(x o ,E. J,on a:llV' V
o
ken )(x)-'1:7 V(xoJI!"
E O'
En
rê;aoumê,il
existe
E
)
0
et
une
sous
suite
I\\(n)
......
Cl)
tels
O
que:
( 2 . 4 )
Montrons
que
cela entraîne
l'existence
pour tout
n
E~. d'Un

---

-
103 -
vecteur
h"
oppartenont
0
10
sphéra
unité
de
X (lIhn"-1)
t e l
Que:
<0
'i t
h > 1 >
"
2'
( 2 • 5)
Où
L (
L
;;llo
,
)
désigne
la
constante
de
lipschitz des
fonctions
9'
V,.,
liur 8(x o '€o)
(d'après
l'hypothèse
H ) .En
effet
si (2.5)
2
n'éteit pas vérifiée,cela entro1nerait
l'existence d'un no E ~
tel
que:
'tf hES( o. 1) .3 th E(O. :--L.] /
<.
-
.(2.61
2
D'autre part
,toujours d'après
(H
)
2
( 2.7)
ce
qui,
combinê
avec
(2.6)
entrainerait
pour
tout
h
E 5(0,1)
1<
7
V k ("
(x 0) -";l V( x 0) , h> 1
o
el:
donc
ce qui est contredictoire avec
(2.4)
RQvenons donc à
(2.5)
el:
introduisons
les fonctions
d'une variable réelle
<
't;j
t
E
[0 , ...2..]
2L
1:
E
[O,~J
( 2 . 8)
2L
L'inégalité (2.5)
s'écrit
alors
<0
'i t
E
(0, ~
>
-
] .
( 2.9)
2
2L
La
'fonction
9' Il"( .)-'\\7 h"(OJ
est
continue
par
hypothèse
el:
d'après (2.9)
ne
s'annule pas
[O.-~t].o'apres le théorème des
~eleurs interméd1aires,elle
gorde
un
signe constont.Supposons
pour fixer
les idées
>
'i t
E
[0
~ )
(2.10)
2
, 2L
(le raisonnement
s'appliquant
de
la
même façon
è
l'autre Cë9
)

---

-
104 -
Notons
"le.)
le module
de
continuité
de
V V en
)(0
avec "l( t)
-+
a lorsque t -+ O. Par conséquent:
<.
"1 t
E
(O.
- J .
(2.11)
2L
Combinant
(2.10)
et
(2.11).
on
obtient:
,
> '.
v
g .. ( s) -9 h n( s)
- - " 1 ( 9 )
"1 S
€
[0,-2..)
2
2L
[O. t ].
0
< t ... '.
Intégrons cette inégalité
sur
2L
g.,Ct)
-
h ... (tJ
'0
+ -
t
-
2
Fd1sons
tendre
n
vers
+
a;>
et
utilisant
l'hypothèse
(H
)
,(noter
1
Que
l'ensemble
{ X o + th ... ' n €
IN
}
reste
borné
dans
X ) ,on
obtient
, 5t
;>
'.
,
-
'l')(!i) ds
,
pour
tout
t
E
JO. -2.. J.
t
2
2L
.0
Faisant
tendre
t
vers
zéro
,puisque ,.,( .)
~
0
lorsque • ~ 0, il
;'ensuit
o ;> '.
2
d'où
la contradiction
Remarque
2.1.4
Le
caractère -équi11pschitz:i.>en des
f'onctions
V V n,.) a joué un
rôle déterminant
dans
la
démonstration
du
théorème
2.1.3
.
Ce
théorème
n'est
plus
vrai
lorsqu'on
suppose
seulement
que
les
V Vn,.) sont localement lipschitziennes (voir le contre
exemple
1.2.3 )
Théorème 2.1.5
Soient
X un e9pace de 8anach
réTlexiT,
{ G,
G"
:
X -+ IR U {... lIl;>}
;
n
€
IN } une
suite de f'oction9
convexe9
s . c . i .
propres,et
<' V, V" : X .. IR
n
E IN } une
suite de Tonctions de
clesse C 1 .On
suppose Que

---

-
105 -
lei
suite
{ V"
n
E
~ } converge uniformément
vers
partie
bornée
de
X
(H 2 ) la suite { V V" ;0 E IN } est équilipschitzienne
sur toute
partie
bornée
de
X
n
€
~ }
converge au
sens de Mosco
vers
G
Alors
,les deux
assertions
suivantes
ont
lieu
G( 5,5)
el
ÔI( G
+ V )
~(G + V )
lorsque
n
~ +
œ
•
-
0
0
Ge S, w)
b)
o(G
+
V )
~(G + V )
lorsque
n
~ +
œ
.
-
0
0
démonstration
Il
suffit de montrer que
la
double
inclusion
suivante
a
lieu
s-w Lim SUp 2.{G" + V,,)
c:
2,,( G + V)
c:
s-s Lim iof ~{G
+ V J.
-
0
0
En
e f f e t , s o i t
(x,y)
€
s-w
L1m
sup
,,(G"
+ V
)
, i l
existe
une
n
sous
suite
(Ok) kElN
et
une
suite
(x
d'éléments
de X x x·
k
'Yk)
telles
que:
3)
E
èlG
(X
)
+
V
V
( x k) ,
k
Ok
Ok
'1;/
Il.
E lN
Les
théorèmes
2.1.3 et
1.2.3 permettent
alors
d'obtenir
(x,y)
E 2,,(G + V).
Soit
(x,y)
E 2,,(G
+ V) .Posons
Z
'"'
y
-
V
V( x)
.D'après
le
théorème
1.2.3
i l
existe
une
suite (zn)
d'éléments
de
X· et
s
s
une
suite
(x n ) d'éléments de X telles que
x n .... X
zn
.... Z,
Zn
e ê~n(xn).quelquB soit n €
lN
.Posons
Y n • Z,., + V Vn(xn}.le
théorème
2.1.3 permet
alors
d'obtenir
( x , y)
e
L im
i nT
q( G
+ V ) .
-
0
0
Aemergue
2.1.6
Soient
X un
espace
de
Hilbert
réel
.V,v,.,
X
....
iR,

---

-
106 -
une suite de fonctions
de
classe C 1 ,et A
A"
X ~ X,une
suite d'opérateurs maximoux monotones
[12).
on suppose que
( H • )
la
sui te
{ V n
n
E: IN
} converge
uniformément
.... ars
V sur toute partie bornée de X
1
(HZ)
10
suite
{ 'V Vr'l
n
€
IN } est
équl11ps~h1~21enne
sur toute
partie bornée de
X
G(s,sJ
A
lorsque n ~ + ~
.
Alors
les deux
09gert10ns
suivantes ont
lieu
GCs.s]
A +
'V V
lorsque
n
~
+
~
.
G( 5 , W)
A +
'V V
lorsque
n ~ +
~
.
2.2 Cas des fonctions
s'écrivant comme différence de
fonctions
convexes
L I .'1-nsemk'le-.
des
fonction9
s'écrl'vant
comme
différence
de
fonctions
convexes es!:
une
sous-classe importante de
la
classe des
fonctions
non
nécessairement
différentiables.
Elle
contient
les fonctions convexes, les fonctions
concaves, les
fonctions
convexes à
un carr~ près.
Soient ~,
~":
X ~ ~ u
{ + ~ } et ~,
~n:X ~ ~ u
{ + ~ } deux
suites de fonctions convexes s.c.i.
propres
.La question
relative à
la convergence au
sens des
graphes de
la suite
d'opérateurs a~" -
a~n .lorsque n ~ + ~
se pose aussi
de
façon Tondamentale en optimisation et en colcul
des
variations.
En général.
la convergence au
sens de Mosco des ~" vers ~ et
celle aes ~n vers
~ ne permettent
pas a'obtenir a~ - a~ comme
limite au
sens des
graphes des
a~n -
a~n ,lorsque n ~ + ~ .
Dans ce qui
suit,nous allons énoncer deux résultots relatifs
.3
cette question
Prooosition 2.2.1
Soient
~,
~o:
X ~ ~ U {+ ~ } et ~,
~" :X ~ ~ deux
suites
de Tonctions convexes s.c.i.
propres
,où X désigne un
espace de
Banach réTlexiT
On
suppose que

---

107
( Hl)
'PO converge
ou
sens
do Mesco
lIers
'P.
C H 2)
~o converge
ou sens
de
Mosce vers ~.
( H :J)
Les fonctions
"" n( .)
sont
équillpschitzlennes
sur
toute
partie
bornée
de X •
Alors,
l'inclusion
suivante
e
lieu:
démonstrotion
Soit
(x,y)
e- s-w Lim sup a<.p
-
è<l>n
, i l
existe
une
sous
n
50U9
suite (nk}kE!N et
une
suite (Xk'Yk)
eX
)(
x·
,telleg
Que
•
Pour tout ~ €
~ ,Il existe un élément Zk €
X· tel
que
Zk
€
èo.l-
( )(k)
€
è<p n
()( k
)
,
nk
De
l'hypothèse d'équilipschitzianité
des
fonctions
<l>n(') , i l
résulte que
la
suite(zk)
est
bornée.On peut
donc
en extraire
une 'sous suite Qui
converge
vers
un élément
z de X·,dans X:.La
convergence
au
sens
de
Mesco
des
<.P n vers <P et celle des ""n
vers
01>,
permet tant
d'obtenir
: y
E è<p ()(2.-;'- 03<1> (xl
Remarque
relative
à
l'hypothèse (H 2 )
D'après Badla El
Ghall
[2B),dens
un espace de
Banach
séporable,pour une
suite
de
fonctions
convexes
s . c . i .
propres
{~n
n
E ~ } équi11pschitzienne,las assertions
suivantes
sont
équivalentes
( i ) " ( i i )
( i )
~n converge
au
sens
de "'osco
vers
10
la fonction
~.
(ii)"f/x
EX,
~n(x) -+<l>(x)
ThéorQMe
2.2.2
Si
en
plus
des
hypothèses de
la
prooosition
précédente
on
suopose Que
~ e~t de classe Cl ,alors l'assertion suivante 0
lieu:
G( s, loi)
a~ n -
a~n
lorsque
n
~ +
~ .

---

-
108
-
démonstration
L'inclusion
ayant été démantreé dans
la
proposition précédente
, i l
reste à
montrer que
Soit
(x,y)€è~-o"".Ilexiste un élément
zE<;hp(x)
tel
Que
Z-y+o40Cx)
De
la convergence au sens de Mosco des ~n vers ~.
on déduit
(voir théorème 1.2.3)
l'existence d'une suite x
•
n ~ x et d'une
•
suite
zn ... z
telles
que
zn
e: olf'n( )(n) ,quelque sait n €
lN
.
Soit un e a""n(X n) .Posons Yn - Zn-Un
et
montrons que la
suite
(Y n) converge faiblement vers y, ce qui revient ~ montrer. que
la
suite
(un)
converge
-faiblement
vers
a",,( xl .Pour
toute
suite
extraite (u
)
de la
suite Cu )
qui converge faiblement
vers
"k
"
un élément
u €
X·,Ia convergence au
sens de
M09ca des ""n vers
~ entrains
u = a",,(x)
Par conséquent,
toute
le
suite
(
Un)
converge -faiblement
vers
à<l>( x) .

---

109
3
Lien entre la convergence
en graphe
d'une
suite
de
sous-d1TTérentiels et
l'hypo/épi-convergence des
suites de
dérivées directionnelles
Le calcul
différentiel
généralisé
en analyse convexe
[25]
et
la "nonsmooth analysis"
[14;24] dssocient
~ une fonction F ~
valeurs dans
~U{-œ,~~}.déf1nie sur un 9space
vectoriel normé X,
une fonction
DF
:X x X -
~ U {-œ.~œ l,appelée dérivée
directionnelle de F,
et
une multiapplication
~F :X - X·,appelée
sous-différentiel de F.X· désigne
ici
le
dual
topologique de X.
Le
l1en
entre
OF et
oF est
donné
par
la
relation
(14;18j24;27]:
OF
(x,h)
•
sup{<x-,h
>,
x-
€
ê:lF(x)
}
,"1)(
,h
J..,x. (3.1)
Une question
se
pose de façon
naturelle
en optimisation et
en
calcul
des
variations
~
savoir
lorsqu'une
suite de
sous-différentiels con~erge au
sens des
gr~phes,quelle est
la
notion correspondante de
con~ergence de
la
suite
associée des
déri~ées directionnelles?
Avant de
répondre
~
la question
posée ci-de9sus,observons dans
un
premier temps,
à
travers
l'exemple
suivant,qu'on ne
peut en
général
espérer une convergence point
par point
(ou convergence
simpl~ )
d'une
suite de dérivées directionnelles, lorsque
la
suite ~ssociée des sous-différentiels con~erge au
sens des
graphes
Exemple
3.1
Posons x '" IR et
considérons
la famille
de fonctions
{F,,:IR"'IR
À
~ 0
}.où pour
À
~ D,la fonction
F" est
définie
1
comme
suit
F" (x)
""Ix
'V x
€
IR
on
~érifie sans difficulté Que
la
suite des
sous-différentiels
~F" converge au sens des gr~phes ~ers le sous-différentiel ~Fo
lorsque
À
~ O.Cepend~nt,la suite des dérivées directionnelles
OF,,( .,.}
ne converge pas
simplement
vers OF o( ,.J lorsque À~D.
En ,effet
DF o(O,1J '"
et
lim OF ,,(0, 1J
'"
-1
On montre
ainsi· que
la
notion de
convergence
ponctuelle,même d~ns les
cas
les
plus
simples,n'est
p~s
adaptée à
l'étude de
la convergence des dérivées directionnelles.
Aussi,dans ce qui
suit
,nous allons
faire
apparaltre
de façon
naturelle,à
travers
les propriétés de

---

-
110 -
continuité
de
la ccn1u2uée de Legendre-Fenchel
p a r t i e l l e .
la bonne
notion de convergence
pour
les
suites de dérivées
directionnelles.
Plus précisément,nous allons montrer que
lorsqu'une suite
de -sous-différentiels converge au sens des
graphes.la notion correspondante de convergence de la
suite
associée des dérivées directcnnelles,est
!'hypo 1 épi-con -
vergence
,une notion de convergence
introduite
par
H.Attcuch et A.Wets[6] dans
l'étude de
la
stabilité des
points
selles de fonctions de deux
v~r1~bles.
3.2 Quelgues rappels
sur
la conjuguée de Legendre-FenchBl
partielle
Rappelons
tout d'abord
lB5 définitions et
résultats
principaux concernant
l'épi 1 hypo-convergence et
la continuité
de
la conjuguée de Legendre-Fenchel
partielle.Pour une
présentation
plus détaillée,consulter par exemple
(G;?].
Etant
donnée une fonction
convexe F
:
X x Y ~ R u
{-~,+
~>.
où X et
Y désignent
des espaceS
vectoriels normé9,la
conjuguée de Legendre-Fenchel
partielle de F,
est
la fonction
convexe-concave
L :X
x y. ~ ~ U {-~,+~ >,déTinie comme suit:
'" inT
>
.• y E Y } .
La
transformation F ~ L est
un
homéomorphisme quand on munit
les
fonctions convexes s . c . i .
de
la
topologie de
l~épi-convergence,
et
les fonctions convexes-concaves Termée9,de
la
topologie
de
l~épi 1 hypo-convergence (
voir
(4;5] ).
Définitions 3.2.1
Soient (X,T)
et
(Y,G)
deux
eSpaces
topologiQue9
(métrisables)
et
soit
{ F,
F"
:X x Y -+ ~ U {-~,+
~};n
€
IN } une
suite de fonctions
de deux
variables.
Pour tout
(x,y)
€
X x
Y
l~hypo 1 épi-limite supérieure
de
la
suite (F n) au point (x,y) se définit comme suit:
T-G hypo 1 épi-lim sup F n( x, y}
...
sup
min
r
y" •
x ~ x
n
-+
y
De même,
on définit
l'épi
1 hypo-limite inférieure de la 9uite
(F n) au point (x,y) de la manière suivante:
T-j3. épi 1 hypo-l im inT F n( x, y)
•
inT
m.x
r
y
•
~
y
x
~
X
n
n

---

-
111
On dira que
la
suite de fonctions
(~")
hypo
1 épi-converge
vers
la fonction
F
,
si
la double
inégalité
suivante a
lieu
,pour
tout
(x,y)
E X
x
Y
.-~ hypo 1 ttpl-1tm sup Fn(x,y)
<
F(x,y}
F(x,y)
",-13 épi 1 hypo-lim iof' F .... (x.y)
Dans ce CdS
,on écrira:
F
~ .-~ hypo 1 épi-lim F n
Proposition 3.2.2
Soient
(X. y)
et
(Y .13)
deux
espaces
topologiques
(métrisebles
) ,et
soit
F,
F n : X x Y ... IR U {_<o,+ <o} une suite de
fonctions
de deux
vari4bles.
Alors
les assertions suivantes
sont
équivalentes:
(i)
F -
,-13 hypo/~pi-lim F o
,
Pour tout ( x • y )
€
X x
'Y
( i i)
.)
~
•
"
F(X(Y)
x" ~ x
• 3 y" ~ y 1 lim sup Fn(xn,ynl
•
'Y
b)
~ y" ~ y, 3 x ~ x 1 FC x> y) <; Hm inf F"n(xl'l'Y")
"
On
remarquera que
lorsque
les fonctions
F n ne dépendent
pas
de
la
seconde
veri4ble
y
,la
définition
précédente de
!'hypo 1 épi-convergence coïncide
avec
la
notion classique de
l'hypo-convergence (par rapport
à
la première
variable
~) .De
m@me,lorsQue
les Tonctions F" ne dépendent
pas de
la première
variable
~',la déTlnitlon
précédente de
l'hypo
/
épi-convergence
coïncide avec la notion classique
d'~pi-convergence (p4r
rapport
c!J
le seconde
v4riable
y)
(CT. [6]).
Aussi,on dira ~ue
le
suite de Tonctions (F")
épi /
hypo-converge
vers 14 Tonction F,si
10 suite da fonctions
(
F")
hypo/épi-converge vers
la Tonction
-F (CT. [5]).
Oans ce
c~s on écrira:
F •
,-~ épi
/
hypo-lim F n
Proposition
3.2.3 (cT.[4
J Proposition 3.1)
Soient X et
Y deux espaces de
Banach réflexiTs,et
90it
{ F,
F
:
X ~ y. ~ R,
n
E ~ } une suite de fonctions convexes
n
ferm~es et propres.les implications suivantes ont lieu:
( i )
,~~. épi-lim sup F
<
F
"
.ij,
(ii)
Y - B épi
/
hypo-lim L
..-;;; L
.
n

---

112 -
( i i l )
.. -
x
~ épi-l-im sup (F n) - '"'
F-
-Il
(iv)
y- x
~ hypo 1 ép!-lim inf Ln ~ L.
1'"
,
~ (rBsp. y-
13-)
désignent
les
topologies
de
X et
Y
(rBsp.X· et
Y·), telles
que
<
>
()(OT)>C()(":T',
et
soient
séquentiellement continues.
(",,~) >C ( ...~,1)
A
présent,
appliquons
ce
qui
précéde
à
la
suite de
dérivées directionnelles dssocié~~ une famille de fOnctions
convexes
V,V":X ~ ~ ,où X désigne ici un espace de
B~n~ch
r~flexif:
Soit
x
€
X .pour
tout
n
E lN
,la
relation
(3.1)
exprime que
DVn(x,.)
est
la
fonction
d'appui
de
l'ensemble
convexe,
faiblement
compact
(14]
av"C xl:
=
..v-av (:~:l') • sup { < x·
• > ,
} .
"
(*)
désigne ici
l'opér~tion de conjugaison (p~rtiel1e)
relativement
à
la
variable
h
DV,,(x,.l
est
par
conséquent
la
conjuguée
de Legendre-Fenchel
de
la fonction
indicatrice
de
av ne x) ,définie par
. {D si x· E av,,( x J
x·
.~
sinan
En
~doptant les
notations
de
la
section
3.2
,posons
'ri C x , h .)
E X x X·.
On a
par
conséquent~
On
vérifie
sans
difficulté
que
les fonctions
FnC.,.)
sant
bi-conve~es ,i.e.
convexes
par
rapport
à
chacune
des
v~riables.
Pour
être
dans
les
conditions
d'application
de
la
proposition
3.2.2
les
fonctions
F ( . , . )
-
o,Ioav{,}[')
FnC.,.)
doivent
être
convexes
par
rapport
au
couple
(x,hl
et
fermées.
C'est
le
cas
p~r exemple lorsque les av" sont de graphes
convexes.

---

-
113 -
-
On vérifie
de même
que
la
convergence
au
sens des
graphes
des
sous-différentiels av" vers
le
sous-différentiel
aV,entraine
l'épi-convergence des F n( .,.l vers Fe., ,l,pour la topologie
·'~ort-faible'·. AU9Si,90U9
les conditions d'application de
la
proposition
ft
3.2.2
,on
vérifie
sans difTiculté que
la
suite
des DV n( .,.J hypo / 'pi-converge vers OV( .•. l .L'hypa 1 épi-con-
vergence apparalt
donc comme
une
notion de
convergence
naturellement
adaptée à
l'étude
de
la conver~ence des
suites de
dérivées directionnelles
A présent,nous allons montrer dans
un cadre
plus
général
(sans hypothèse de
convexité J,que lorsqu'une
suite
de
sous-diTférentiels converge dU
geng
des
graphes
,
la suite associée des dérivée9
directionnelles converge au
sens
de l'hpo 1 épi-convergence
Théorème 3.2.4
Soient
X un espace de
Banach
ré~lexi~, V :X ~ Rune
fonction
localement
lipschitziennilll,et
{ V.,
:X .... IR
;
n
E IN
}
une
suite
de ~onctions équilipschitziennes
sur
toute
~artie
bornée de X .
Alors,les
implications
suivantes ont
lieu:
G( s , w)
(i)
av.,
~
av
lorsque
n ~ i-
or.
~
(ii)
lrJ h
EX,
DV(. ,h)
=t
s-hypo-lim DV n(. ,h)
~
(i1i)
DV(.,.)
•
s-s
hy~o /
épi-lim DV n( .• ·)
démonstr~tion
L'équivalence Cles assertions
(li)
et
(11i)
découle
de
l'équilipschltzlanltê "es -fonctions
DV.,(x,.)
:X
~ IR,
quelque 90it
x E X.L'implication
(1)
.. (ii)
quand
~ elle,
résulte des
lemmes
suivants:
Dans ce qui
suit
X désigne un espace de Banach réflexif.
Lemme
3.2.5
Soient
V :X ~ IR une fonction
localement
lipschitzienne
et {Vn:X .... IR ;
n E IN} une
sul te de fonctions
équi-llp9ch1tziennes
sur toute
partie
bornée de X.Les
~ssertion~ suivantQs
sont
éQuivalentes
( i)
";f)(,hEX
s-s
hypo
/
épi-lim
sup OV.,()(,h)
"DV()(,h).

---

-
114
-
( i i)
s-w Lim
sup
av
c
av
"
démonstretion
Montrons
!'implicetion (i}
-
(ii)
Soit
(x,y)
e
s-w
Lim
sup
aVn.!l
existe
une
90US
suite
(nk)kEIN
et
une
suite (xk'Yk)
d'éléments de X x X· ,telles que:
C'est-è-dire:
~ h E X,
~ k E ~ •
av
C-xk,
hl.
( 3 . 2)
"k
O'f!près(i) ,pour
tout
h
E X,il
existe
h k -+ h tel que:
lim
sup
DV
( xk,hkr :.,; ove x,hl
nk
ce qui combiné avec !'inégelité (3.2)
entraîne:
<:
y,h
> '"
lim
<:
yk,h k > :.,; lim sup DVn",cxk,hkJ :.,; OV(x,h)_
k
k
Ce qui
si&niTie que y
e aV(x)
Montrons
d
pr'É!sent
l'implication
( i i )
-
( i l
Soit
(x,hl
e: X x X
et
soit
une
exn)
une
suite
d'éléments
de
X,convergeant
Tortement
vers
x,aVn(x n) étent 'faiblement
compact,il
existe
un élément
Y n E aV n { )In)
tel
que
Dn
peut
alors
écrire:
-
lim
sup
<:
yn,h>
- l l m < y , h >
"k
Par ailleurs,les fonctions
V n(.) étant équl1ipschitziennes,
on
peut
extraire
une
sous-suite de
la
suite (Y
)
n k
Qui
converge
Taiblement
vers
un
élément
y
E X·.Oe
l'assertion ( i i ) ,
i l
résul te
que
y
E èV( x) ;par
suite:
Dans
le
cadre
de
la
dimension
finie,le
lemme
3.2.5
peut
s'écrire

---

-
115 -
de
!~ manière suivante:
Lemme (3.2.5) 1
Soit
V :lR k
....,
IR une
application
localement
lipschitzienne,
et
soit
(V n :lR k .... IR
n
~ ~)
une
suite de ~onctions
éQuilipschitziennes sur toute
partie bornée de ~k.
Alors,pour tout
x e: X et pour toute suite (x n) d'élément5 de
mk,Qul converge vers x,les assertions suivantes sont
équivalente$:
( i)
( i f )
c
aV()()
+
ES.
t8
désigne
ici
la boule de
centre
l'origine et
de
rayon
E.
Démonstrtttion
Montrons
d'abord
l'implication (i)
.. (11).
Pour
tout
n
~ ~,po50ns:
{DV
(x
,h) ,DV(x,h)}
•
'VhElR k •
n
n
u
Lee t'onctions OVn(JI" • .
)
et
DV{x,.)
étant
con_\\exes et
continues, il en est de même de
l~ ~onction 2 nC .~.On vérif'ie par
ail-leurs
sans dif'f'iculté que
l'assertion
( i l
entraine que
la
!:luite de
t'onctions (g )
converge
simplement
vers
DIJ( x,.)
n
lorsque n
tend
vers
+
~.elle convergQ alors uniformément vers
k
DI/(x,)
sur
toute
p4rtie
bornée de IR
(cf'. (25J.théorème 3.10).
Alors,pour
tout
~
D,il
existe
un
entier
no,tel
Que
'"
DI/(iC,h)
+
t ,
I1hE5eO,I)
les
fonctions
DVn(x n ,
)
et al/(x,.)
~tant positiVement
homogènes.l'essBrtion
précédente
permet
d'écrire
'"
Ol/(x,h)
+
el,,1
c'est-à-dire
c
ôlV(x)
+
tB
,
'Ii n
~ no'
Montrons
à
présent
l'implication
( i i )
.... (i)
Soit
h
E
IR k ,
ôlV (x
J étant compact,il existe un ê1ément
n
,
Y"
E QlV,.,(x,,)
tel
que

---

-
116 -
Comme dans
la démonstration du lemme 3.2.5
,on montre que
<.DV(x.h)
Lemme
3.2.6
Soit
V :
X ~ R
une
application
localement
lipschitzienne
et
soit
{ Vn:X ..... IR
;
n
€
lN
} une
suite de
fonctions
équi~schitziennes sur
toute
pert le
bornée de X.
Alors
,l'implication suivante a
lieu
(1)
oV
C
9-101
Lirn
inf
oV
.
n
~
(11)
'ri (>t,h)
e X x X,
DV(x,h)
<. s-s épi /
hypo-lim inT DV ... (x.h).
Démonstration.
Soit
(x,hl
€
X x X,
aV(x)
étant
faiblement
compact,il
existe
un élément
y
€
aV(x)
tel que
< y,h
> -
OV(x,h) .O'eprès
l'assertion
( i l ,11
existe
une
suite
(x ... )
d'éléments
de
X,qui
converge fortement
vers
x,et
une
suite (Y ... )
d'éléme~ts de X·,
qui converge faiblement
vers y,telles que:
Par conséquent,pour
toute
suite Ch ... )
fortement
convergeante
verg
h
dang X,on
a
En Taigant
tendre
n
vers
+
~
,on
obtient
OV()(,h)
E)(emple
3.2;?
k
Soient
deu)(
fonctions
lipschitziennes
F
(O.' J)(IR
.....
IR
k
et
G
:
(O,1J)(lR ..lR.Pour
tout
À
E
(O.'J.on
pose
F.,..(.)
-
F(X
.)
et
G.,..(.)
'" G( x
• . )
.On
suppose que
( H ,)
pour
tout
x
€
(0,' J.
F.,..C.)
est
conve)(e.
pour
tout
À
e: (0,1), G.,..(.)
est
différentiable.

---

117 -
.
.
les fonctions
VG"C.J
sont
équi-ltpschttziennes
sur
toute
partie
bornée
de
~k.
Alcrs,les deux assertions
suivantes ont
lieu:
( i )
V h E 1R",OFo(.,h)-<VGo(.),h>-
hypo-llm
DF,,(.,h)-<VG,,(.).h>
>..1.0
( i i )
DFo(.,.)-<VGo(.J,
. > ' "
hypc/épl-1im
OF"C . • . )-<VG,,(.),
.>
>..1.0
démonstration
Il
suffit
de
remarquer que
la
suite des fonctions
F "C.)
converge simplement
vers la fonction FoC.) .Elle converge alors
unlTormément
vers
FoC.). sur
toute partie
bornée
de lR\\oc
(
CT. [25],
théorème
3.10
) .D'après
le
théorème
2.1.5
aF o - V Go
s'obtient par conséquent comme
limite au sens des
graphes
des
"'F" -
V G,..
,lorsque)" J. 0
Exemple 3.2.8
Soit (A,d)
un espace métrique,et X un espace de Banach
reflexif,munit de
la norme
Il. Il.0n considère une application
F:
A x X ~ R ,lipschitzienne par rapport à
la
seconde
variable,dans
un voi.sinage du couple (X O' x o) ~ A x X ;
c'est-è-dire qu'il existe un réel k
~ 0 , un v~isinage
U
de
Xo .et un voisinage V
de
X o
tels què:
"0
)(0
'V >.. €
U,.
,IF(X.x)
-
F(x,x')l
'" k
IIx
-
x'lI.
'tI x ,
x'
EV
o
' 0
La dérivée directionnelle généralisée partielle de F au point
(>"o,x o ) se déTinit comme suit:
-
F( x. x +
th)
-
F( x. xh)
:
lim
sup
, ' t I h E X .
t
( >.., x • t) ~( X 0 ' x 0 ' a .. )
La Tonction h ~ D)<F(>"o,xo,h)
est convexe
positivement homogène
et
lipschitzienne (cf.(14;2?J) ~Lorsque x· désigne le dual
topologique de X,le sous-diffèrentiel
partiel de F au point
(>"0
• x o)
se déTinit comme suit:
i.e
D
F(À
,x
,h)
max{<x·,h>
x • E
Cl
F (À
, x l }
,
Yh EX.
x
0
0
x
0
0

---

-
118 -
D'dù
la
proposition
suiv~nte
'Proposition 3.2.9
Sous
les
hypothéses
de
l'exemple
précédent,
l'implication
suivante 0
lieu
G(s,w)
( i)
....
~>(F( ;\\0'·)
lorsque)"
....
),,0'
~
( i f )
. )
m
s-s
hypo
/
épi-lim D>(F(x,
. ) .
"
...
]1,0
Remorque
3.2.10
Lorsque
la fonction F de
l'exemple précédent est
constante par rapport
à
la
voriabble
]1,
•
l'implication
(1)->(11)
exprime
un
résultat
connu,lequel
n'est
rien
d'autre
que
la
semi-continuité
sup~rieure de la
dérivée
directionnelle
généralisée de
Clarke
F(y
+
th)
-
F(y)
(x,h)
.... DF(x,h)
-
lim
9UP
t
(y,t)-t{x,D.J
Remarque
3.3.11
Soit
la suite de
fonctions
(FnJoù
pour
tout
n
€
~.Fn(.)
est
définie comme suit:
-
-
sin (nxl
'r;JxElR
)
n
Pour tout
~ > D,et
pour
tout
)(
€
~.on a
lim inf
inf
VF
Cyl
•
lim sup
lnf
VF
(y)
..
- 1 •
n
n
n
y
€
BC )(. (.)
n
y
€
S()(. E)
On obtient
par conséquent:
ép1-11m ~ F
~-1
n
hypo-11m V F
~
1 ~ ~ F
_ 0
n
Il résulte du théorème 3.2.4 que
la suite de gradients
VF
ne
n
converge pas au Sens des graphes vers
VF.

---

r--
---------
-
119
-
Bibliographie.
H.
Attouch
(1]
Convergence de fonctions
convexes,des sous-différentiels
et
semi-groupes ~ssoclés; C.A.A.S.
P~rls.284.539-542
( 1977)
(2]
E.D.P.
~ssoclé9 ~ des f~ml11eg de
sous-différentiels;
thèse de Doctorat d'Etat,
Univ.Pierre et M~rle Curie
( 1976) .
(3]
Varlational convergence for
functions
and operators;
APplicable t1othemotics
Series,3?2-3?8.
(1984).
H.
Attouch,
O.
Azé,
A.
l.Jets
(4]
Convergence of convex-concaVB
soddle functions:
continulty properties of
the
Legendre-Penchel
tronsform with applications
ta convex proKromming and
mechanlcs;Publlcation AVAMAC,Uni.de Perpignan,vol.1
nO B ,e '985), â paraître Ann.Institut li.Poincaré.
(5)
On continuity
properties of
the
partial Legendre-Fenchel
transform:
convergence of sequences of augmented
lagrangian functions,
Moreau-Yosida approximates and
subdifferential operators; Proceedinqs Journées Fermat
H.
Attouch
,
A.
Uets
(6]
A convergence for bivari~te functions ~imed at the
convergence of saddle
values;
Mathematical) theory of
optimization,Cecconi,Zolezzi,Ed.
Springer Verlag,
Lecture
Notes
in Methem!!ltics,979,
Berlin,
(1~83).
(7 ]
A convergence theory for
sadd le functions;Trens.Amer.
Soc, ·vol.280.
n01,
1-41,
(19S3).
O. Azé
(S]
Convergences variationnelles et dualité.Application en
celcul des
variations at
en programmation mathématique:
thèse de Doctorat d'Etat,
Uni.
de
Perpignan,256-269,
( '9S6) .
J . P .
Aubin
,
I.
Ekeland
[9 ]
Applied nonlinear analysis;
Wiley
Interscience
• C1984) .
H.
Cartan
(10)
Calcul différentiel. Collection Méthodes Hermann Paris (1961).
H.
Bougeard
(11]
Contribution a la théorie de Morse en dimension finie;
thèse de 3·'"
cycle,Paris Dauphine
,C 1987) .
•
,

---

-
120 -
H.
8rézis
[12]
Opérateurs maximaux monotones et
semi-groupes de
contraction dans
les espaces de
Hilbert;
North-Holland
( 1973)
F.
Clarke
[ 13]
GeneraliZed
g~adien~,~and applications;
Trans.
Amer.
l'I~t h. Soc. (1 9?5) • "--~'"
!
"
\\
;'~
[ 14]
Nonsmooth Analysis '\\ijl,n.d optimization;
Wiley.
Interscience
(1983) .
--..;,--
l-
,
ï
, ,
I.
Ekeland.
A.
Temam
~
(15]
Convex analysis and
varlatlonal
problems;
North-Holland
(1978) .
H.
FrankoW'ska
[16]
Equations dlHamilton-Jacobi
contingentes
C.R.S.A.
Paris,
tome
304,série
na
11,
198?
Hiriart-Urruty
Contribution ~
la
programmation mathématique
:cas
déterministe et
stochastique
;thèse d'Etat
Uni.
Cle~mont-Ferrand
,e 198?).
[18 ]
Tan~ent
c'ones,
generalized g~dients and Mathematical
prog'ramming
in
Banach
spaces;
M~th.
of operation
Research
,vol.
1A,
nO
1,( 19?9).
,
[19]
Conditions nécess~ire9 d'optim~litè en progr~mm~tion
non différenti~ble; C.R.A.S.
Paris 283
,
(19?6)
)
J.-L.
Ndoutoume
[20 ]
Calcul différentiel
généralisé du
second ordre pour des
nO
2
fonctions convexes;
Publication AVAMAC,
vol.2,
(1986).
[21 ]
Condition nécessaire d'optimalité du premier ordre pour
des problèmes de controle optim~l d'inéqu~tions v~ri~­
tionnelles;
Public~tion AVAMAC, vol. 1 ,no 3 ,( 198?).
J.-P.
Penot
[22 ]
Sous-différentiels de fonctions
numériques non convexes
C.R.A.S . . Paris 2?8,
(19?A).
[23]
Calcul
sous-différentiel et
optimis~tion; J. Funct.Anal.
27( 2)
•
(1978).
[24]
Utilisation des sous-différentiels généralisés en
optimis~tion, A.F.C.E.T.,
S.M.F.
( '978) .

---